本地文件系统和分布式文件系统的特点

系统 分布式
现在的文件系统多种多样,不管是接口、架构、部署都有巨大差异,本文总结了本地文件系统和分布式文件系统以及它们的特点和技术点。

前言

文件系统是一套实现了数据的存储、分级组织、访问和获取等操作的抽象数据类型(Abstract data type)(From Wikipedia)。

现在的文件系统多种多样,不管是接口、架构、部署都有巨大差异,本文试图总结一下本地文件系统和分布式文件系统以及它们的特点和技术点。

我试图用一个极其抽象的图来描绘本地文件系统和分布式文件系统。(PS: 好吧,结果就成了下面这个基本没啥意义的图。。。。)

专题推荐:回味那些经典的分布式文件系统

QQ20130518-1

本地文件系统

本地文件系统主要是指Ext2,Ext3,Btrfs,XFS这类(很难概括,只好举例子),它们通常提供以下功能:

  1. 扩展性:随着系统容量的增加保持性能,不随容量变化而导致性能震荡。比如一个目录下的海量文件,在EXT2/3中由于目录设计问题会导致较大的性能问题。再比如EXT2/3中的Metadata的占用和inode的划分可能会导致空间的浪费。
  2. 数据一致性
    • Checksum: Checksum与对应的数据块分开放置,避免silent corruption
    • COW事务: COW事务参考文件系统特性 – COW事务
    • Log: Log被一些文件系统用作WAL模式来加快写操作,并且保证写操作的原子性
  3. 多设备管理:传统上Linux往往使用LVM进行多设备的管理,现代文件系统往往增加对多设备的支持。如ZFS和Btrfs会有存储池模型对应LVM的逻辑卷组,文件系统会对底层的多设备进行并行的访问。
    • 快照和克隆:采用COW事务模型的文件系统通常具有这个特性
    • 软件RAID支持:现代文件系统通过对多设备的管理可以很好的支持软件RAID,如Btrfs对Metadata进行RAID1的默认保护
  4. 针对SSD的优化: 除了SSD对于随机读这一特性的优化外,还有对SSD擦除操作的优化。另外,SSD在使用容量接近100%时会导致极差的写入性能,文件系统也可以对SSD的分配策略和重平衡进行一定的优化。
  5. 压缩和加密: 现在的IO速度远远跟不上CPU的发展,因此对磁盘文件进行压缩读写是个很好的选择,现代文件系统往往支持多种压缩格式,而且可以支持整个文件系统的加密或者某个文件和目录的加密
  6. 去重: 文件系统系统去重是个大话题,主要是计算块的checksum方法或者客户端计算文件的hash来决定是否是一个新文件。具体参考Deduplication。#p#

分布式文件系统

分布式文件系统的架构和实现有非常大的差异,如NFS这种传统的基于存储服务器的网络文件系统,基于SAN的GPFS,然后现在的集群式架构,比如HDFS这种有中心的分布式,如GlusterFS这种无中心分布式,再如Ceph这种部分在内核态部分在用户态等等。

QQ20130518-2

    NFS

QQ20130518-5

    GPFS

QQ20130518-3

    HDFS

QQ20130518-4

    GlusterFS

由于架构上的差异和本身文件系统的设计目标,通常分布式文件系统可以根据接口类型分成块存储、对象存储和文件存储。如Ceph具备块存储(Experiment)、文件存储和对象存储的能力,GlusterFS支持对象存储和文件存储的能力。而MogileFS只能作为对象存储并且通过key来访问。

  1. 扩展能力: 毫无疑问,扩展能力是一个分布式文件系统最重要的特点。分布式文件系统中元数据管理一般是扩展的重要问题,GFS采用元数据中心化管理,然后通过Client暂存数据分布来减小元数据的访问压力。GlusterFS采用无中心化管理,在客户端采用一定的算法来对数据进行定位和获取。
  2. 高可用性: 在分布式文件系统中,高可用性包含两层,一是整个文件系统的可用性,二是数据的完整和一致性。整个文件系统的可用性是分布式系统的设计问题,类似于NOSQL集群的设计,比如有中心分布式系统的Master服务器,网络分区等等。数据完整性则通过文件的镜像和文件自动修复等手段来解决,另外,部分文件系统如GlusterFS可以依赖底层的本地文件系统提供一定支持。
  3. 协议和接口: 分布式文件系统提供给应用的接口多种多样,Http RestFul接口、NFS接口、Ftp等等POSIX标准协议,另外通常会有自己的专用接口。
  4. 弹性存储: 可以根据业务需要灵活地增加或缩减数据存储以及增删存储池中的资源,而不需要中断系统运行。弹性存储的最大挑战是减小或增加资源时的数据震荡问题。
  5. 压缩、加密、去重、缓存和存储配额: 这些功能的提供往往考验一个分布式文件系统是否具有可扩展性,一个分布式文件系统如果能方便的进行功能的添加而不影响总体的性能,那么这个文件系统就是良好的设计。这点GlusterFS就做的非常好,它利用类似GNU/Hurd的堆栈式设计,可以让额外的此类功能模块非常方便的增加。
责任编辑:黄丹 来源: 麦子麦
相关推荐

2010-11-01 05:50:46

分布式文件系统

2010-06-04 18:45:43

Hadoop分布式文件

2012-09-19 15:05:24

MogileFS分布式文件系统

2012-09-19 13:43:13

OpenAFS分布式文件系统

2013-01-07 10:29:31

大数据

2013-06-18 14:00:59

HDFS分布式文件系统

2010-11-15 13:24:07

分布式文件系统

2012-08-31 16:04:11

HDFS分布式文件系统

2012-05-10 15:23:53

分布式文件系统测试

2017-10-17 08:33:31

存储系统分布式

2012-07-20 14:40:22

2022-09-13 07:51:08

JuiceFS分布式文件系统

2012-10-09 16:43:47

FastDFS分布式文件系统

2011-07-15 17:48:27

Platform

2020-01-03 08:33:57

Ceph硬件系统

2012-05-10 14:04:07

分布式文件系统架构

2011-03-16 14:23:38

分布式文件

2023-05-05 08:16:56

SeaweedFS分布式文件

2013-01-09 10:16:09

HDFS

2018-03-01 16:26:30

HDFSHadoop系统
点赞
收藏

51CTO技术栈公众号