重复数据删除技术对备份有着深刻影响

数据库
在数据库操作过程中,数据库中的数据备份是不能省的,然而大量的工作中的备份造成了相同数据的多个备份,占据了大量昂贵的磁盘空间,所以要对重复的数据进行删除。

导读:重复数据删除是一种非常高级的数据缩减方式,可以极大的减少备份数据的数量。这种技术通过减少存储的数据量,改变数据保护方式,卓越的提升了磁盘备份方式的经济性。重复数据删除被业界公认为备份技术的下一代发展步骤,是今日数据中心的"必备"技术。可重复数据的删除技术对备份又会产生一定的影响。

  重复数据删除应运而生

  重复数据删除是一项非常新的技术,专门用于在减少需要备份的数据量、***化存储利用率的同时,使更多的备份数据在线保留更长时间。通常来讲,重复数据删除技术会将***的备份数据与已有的之前的备份数据进行比对,从而消除冗余数据。这项技术的优势在于数据的减少不仅使存储的效率更高、成本更节约,带宽的利用也降到***,使更经济、更快速的实现备份数据的远程复制成为可能。然而,目前市场中的重复数据删除解决方案还有很大差异,有些解决方案会使备份处理的速度变的很慢,甚至引发无法预计且不可恢复的数据丢失。

  块级重复数据删除

  多年以前的重复数据删除技术,可以看作是文件级的技术,当时称之为“单一实例存储(SingleInstanceStore,SIS)”,通过SIS技术,整个文件系统或电子邮件系统的重复文件可以被减少为单一的拷贝,当再出现这一文件时,会被指向到这一单一拷贝,从而减少容量需求。这一技术通常被用于电子邮件管理及归档系统。

  今天的重复数据删除技术利用了与SIS类似的数据缩减概念,但却使之向前迈进了一大步–实现了块级(子文件)重复数据删除。当读取数据时,系统利用Hash算法识别唯一的数据块,系统将保留Hash索引,每个Hash编码指向一个不同的数据块。当新的备份发生时,会自动的与现有的块进行比对,如果索引中已经有相同的块,数据将会被删除或被指向块的指针所代替;反之,则会被保存并在索引中为其创建一个新的Hash编码。这里提到的唯一数据块的大小,会根据用户选择的不同的重复数据删除解决方案而不同,平均大小在4KB-24KB之间。

  与文件级SIS技术相比,块级的重复数据删除技术可以说更具优势。它可以在不同的文件或应用中消除冗余数据块。比如,如果一个文件只做了想当小的一点修改并保存,块级重复数据删除技术则将只保存发生变化的数据块。按这种方式,块级重复数据删除可以提供更好的压缩比率,特别是应用于巨大数据量的情况下,如数据库或全备份之后。

  下面的例子进一步说明了SIS和块级两种重复数据删除技术的结果比较。

  一个企业向1000个邮件地址发出一封带有注册内容的活动邀请函,传统的备份应用将会把文件备份1000次。SIS解决方案可以识别出文件是相同的,将只会保留一份备份,然后生成999个指针指向那个唯一的备份,因此,大概节省了99.9%的空间。但是,之后这1000个参会人可能会将注册内容填好后回复给发件人,由于他们的名字不同,SIS解决方案就会备份1000份回执。

  块级解决方案在发出邀请函的时候执行了相同的重复数据删除处理,也实现了99.9%的存储空间节省。但是,当收到1000份参会人的回执时,块级解决方案会发现每个回执的大部分内容与***封收到的是相同的并已经备份过,因此,它只会对其它999封回执的相异数据块(块级)进行备份。这种方法与SIS技术相比,则还可以节省额外的99.9%的存储空间。

  绿色存储与重复数据删除

  由于块级重复数据删除技术只保存发生变化的数据,极大的减少了所需的备份容量,使用户不用再像从前一样购置大量磁盘,从而将用户备份系统的总成本降到***。更少的磁盘致使存储系统更少,电力及制冷需求更小,同时还降低了整体系统的复杂性。

  与传统的磁带备份解决方案相比,重复数据删除技术完全改变了磁盘备份的经济性。通过这一技术,更多的用户可以负担得起用磁盘备份取代整个或是部分磁带备份的解决方案。磁盘备份相对于磁带备份来说,提供了更好的备份及恢复性能。通过利用磁盘备份的方式,用户可以进一步改善他们的服务品质协议(Service-LevelAgreements,SLAs)。

  当通过数据复制实现灾备时,重复数据删除技术也可以带来卓越利益。由于减少了备份数据量,重复数据删除技术将主站点与远程数据中心之间的带宽需求、数据传输成本、复制时间都降到***。企业利用相对经济的WAN网络即可在任意地理空间范围内执行复制,实现了额外的成本节约。

  重复数据删除最适用于哪里?

  理论上讲,重复数据删除技术可以用于任意地点存在的数据。它可以与在线或是离线的数据一起工作,可以在文件系统或是数据库,也可以在其它应用。总的来说,哪里有大量的重复数据,它就能在哪呈现出***的利益回报。

  而***的应用示例是在企业级备份。企业大都是每天做一次全备份,两日的全备份中通常只有很小部分不会超过5%的数据是不同的,大部分备份扇区都是相似的。这种情况下,重复删除为备份系统带来了***的利益回报。因此,大多数重复数据删除解决方案都是专为备份系统而设计的。

【编辑推荐】

  1. 浅析Oracle备份方式的差异性
  2. 好用的mysql备份工具
  3. Mysql数据库备份和还原常用的命令
  4. 如何利用mysqldump备份MySQL数据库
责任编辑:迎迎 来源: IT专家网
相关推荐

2011-04-13 13:05:14

重复数据删除

2013-01-25 11:14:29

云储存云计算服务器

2011-03-10 15:06:02

重复数据删除技术

2009-05-18 18:26:09

存储EMC虚拟化

2022-08-29 11:43:29

人工智能AI技术

2021-11-30 10:00:01

SQL数据重复

2009-01-12 12:16:34

重复数据删除选购方案

2013-07-31 10:56:35

VDI虚拟化

2021-06-25 16:04:22

AI 数据人工智能

2010-04-08 16:28:07

Oracle数据库

2011-04-13 13:13:09

重复数据删除

2013-06-05 15:09:16

IBM飞康VTL

2023-04-25 11:49:28

3D视觉

2010-11-03 13:50:49

DB2删除重复数据

2015-10-23 16:40:21

DB2删除数据

2009-02-27 10:18:41

重复数据删除In-linePost-Proces

2010-07-07 16:53:54

SQL Server重

2013-10-18 10:59:30

大数据Sepaton

2010-07-26 09:55:55

SQL Server重

2011-04-13 10:36:24

重复数据删除
点赞
收藏

51CTO技术栈公众号