OpenStack Object Storage(Swift)架构简介

运维 系统运维 OpenStack
OpenStack Object Storage(Swift)是OpenStack开源云计算项目的子项目之一。Swift使用普通的服务器来构建冗余的、可扩展的分布式对象存储集群,存储容量可达PB级。Swift的是用Python开发,前身是Rackspace Cloud Files项目,随着Rackspace加入到OpenStack社区,Racksapce也将Cloud Files的代码贡献给了社区,并逐渐形成现在Swift。Swift最新的发型版本为essex 1.4.6。

  OpenStack Object Storage(Swift)是OpenStack开源云计算项目的子项目之一。Swift使用普通的服务器来构建冗余的、可扩展的分布式对象存储集群,存储容量可达PB级。Swift的是用Python开发,前身是Rackspace Cloud Files项目,随着Rackspace加入到OpenStack社区,Racksapce也将Cloud Files的代码贡献给了社区,并逐渐形成现在Swift。Swift***的发型版本为essex 1.4.6。

  功能

  Swift提供的服务与AWS S3基本相同,可以用以下用途:

  作为IaaS的存储服务

  与OpenStack Compute对接,为其存储镜像

  文档存储

  存储需要长期保存的数据,例如log

  存储网站的图片,缩略图等

  Swift使用RESTful API对外提供服务,目前 1.4.6版本所提供的功能:

  Account(存储账户)的GET、HEAD

  Container(存储容器,与S3的bucket相同)的GET、PUT、HEAD、DELETE

  Object(存储对象)的GET、PUT、HEAD、DELETE、DELETE

  Account、Container、Object的元数据支持

  大文件(无上限,单个无文件***5G,大于5G的文件在客户端切分上传,并上传manifest文件)、

  访问控制、权限控制

  临时对象存储(过期对象自动删除)

  存储请求速率限制

  临时链接(让任何用户访问对象,不需要使用Token)

  表单提交(直接从HTML表单上传文件到Swift存储,依赖与临时链接)

  静态WEB站点(用Swift作为静态站点的WEB服务器)#p#

架构 

OpenStack Object Storage(Swift)架构

  图为Swift的基本架构。

  在介绍Swift的架构之前,先介绍一下OpenStack的设计原理:

  1、Scalability and elasticity are our main goals

  (可扩展性和伸缩性是我们的主要目标)

  2、 Any feature that limits our main goals must be optional

  (任何影响到可扩展性和伸缩性的功能都必须是可选的)

  3、Everything should be asynchronous,If you can’t do something asynchronously, see #2

  (所有的环节必须是异步的,如果不能异步实现,参考第二条设计原理)

  4、All required components must be horizontally scalable

  (所有的基础组件必须能横向扩展)

  ***lways use shared nothing architecture (SN) or sharding,If you can’t Share nothing/shard, see #2

  (始终使用无共享的架构,如果不能实现,参见第二条)

  6、Distribute everything,especially logic. Move logic to where state naturally exists.(所有的都是分布式的,尤其是逻辑。把逻辑放在状态应该存在的地方)

  7、Accept eventual consistency and use it where it is appropriate.

  (接受最终一致性,并在适合的条件下使用)

  8、Test everything(充足的测试)#p#

  依赖组件

  Memcached,分布式缓存系统,在swift中主要被用于token和account信息,container信息的存储

  Sqlite,轻量级数据库引擎,在swift中主要被用于管理account和container数据库

  rsync,远程同步工具,用于storage node之间的数据同步

  XFS文件系统

  WSGI,Python Web服务网关接口,通过paste.deploy工具包管理swift各服务进程、中间件的处理流程

  Eventlet,Python搞并发网络编程库,swift所有的服务器进程均依赖于该库#p#

  主要组件

  Ring文件

  在基本架构图中,我并没有画出ring文件,但是它却是整个Swift中最重要的组件。ring文件是由一致性哈希算法生成,它的主要作用是存储名字到位置的映射。

  ring文件分为三类,分别是:account.ring,container.ring,object.ring。

  对于account的请求,就能通过account_name查询account.ring得到{‘/account_name’ : account_db_position}的映射,从而知道account数据库文件在集群的位置;

  对于container的请求,通过account_name和container_name查询container.ring文件,得到{‘/account_name/container_name’ : container_db_position}的映射;

  对于object的请求,通过account_name,container_name,object_name查询object.ring文件,得到{‘/account_name/container_name/object_name’ : object_position}的映射;

  Ring文件作为一个静态文件存储在每个节点的/etc/swift目录下,被用于各节点之间的位置查询,使得swift的内部网络是一个P2P网络,不依赖某几个节点进行位置查询,避免了单点瓶颈。

  生成ring文件的一致性哈希算法不但为数据的冗余性,分区容忍性提供了保证,也为整体架构上实现性能、容量的横向扩展奠定了基础。

  Ring的详细构造过程将在下一节介绍。

  proxy-server

  proxy-server是proxy node中唯一运行的服务进程,也是swift集群的endpoint,向用户提供RESTful API。

  对于用户的请求,proxy-server会根据配置文件的配置,将请求交给各个中间件进行处理,其中最重要的就是Auth中间件(认证),在处理完成后会根据请求路径将请求转发给相应的storage node中的account-server。container-server或object-server进程处理。

  swift集群的流入数据和流出数据都需要经过proxy-server,proxy-server不会对数据进行缓存。

  auth-server

  验证服务进程,为用户生成token和验证每个请求的token及token的权限。swift的验证服务是作为一个中间件被proxy-server使用,是可选的,可以自己开发,也可以使用OpenStack Keystone。Keystone是官方开发的验证服务,使用Keystone可以无缝的与其它OpenStack项目整合。

  account-server

  account-server是storage node中负责处理对account的GET、HEAD、PUT、DELETE、RELICATION请求的服务进程,account-server使用sqlite的数据库文件保存account的相关信息。

  container-server

  container-server是storage node中负责处理对container的GET、HEAD、PUT、DELETE、RELICATION请求的服务进程,container-server使用sqlite的数据库文件保存container的相关信息。

  object-server

  object-server是storage node中负责处理对object的GET、HEAD、PUT、PSOT、DELETE、RELICATION请求的服务进程,object-server直接操作object,并利用XFS文件系统的xattr包存object的元数据。

  account-auditor、container-auditor、object-auditor

  这三个进程运行在storage node中,分别检测account的db文件,container的db文件,object是否损坏,如果损坏,将会向存储有其它副本的storage node请求副本,替换损坏的。

  account-replicator、container-replicator、object-replicator

  这三个进程运行在storage node中,分别负责account的db文件,container的db文件,object在集群中副本的同步。

  例如,一个object在swift集群中通常被存储在3个不同的storage node中,对于一个PUT /account/container/object的请求,proxy-server会根据 /account/container/object查询ring文件,得到该object应该存储的节点列表(长度为3),proxy-server会将请求转发到这三个节点。如果只有两个节点写入成功,就认为这次PUT操作成功。写入失败的节点在一段时间后将会得到写入成功的节点object-replicator进程推送过来的数据。

  container-updater、account-updater

  这两个进程运行在storage node中,负责container数据库和account数据库的异步更新。使用异步更新的原因:在请求来量大时,container-server和account-server不能实时处理对数据库更新的请求,这些请求将被本地化到队列中,由updater进程进行异步更新。

总结

  经过对Swift原理、代码的学习研究以及一系列地测试,我认为Swift简单、冗余、可扩展的架构保证了它能作为IaaS的一个基础服务。

  原帖:http://blog.sws.sina.com.cn/?p=139

责任编辑:黄丹 来源: 博客
相关推荐

2012-07-12 16:00:32

OpenStackSwift架构

2014-08-19 10:30:30

Swift源码OpenStack架构

2013-07-26 09:16:13

SwiftOpenStackSwiftStack

2015-04-17 16:07:11

swiftOC

2014-11-27 13:29:29

OpenStackSwift开源

2013-12-10 09:57:35

Openstack S开源云存储Openstack

2013-07-25 09:13:57

SwiftStackOpenStackSwift对象存储

2014-06-03 10:44:20

Swift开发语言

2014-06-04 10:52:56

Swift苹果iOS

2012-05-16 09:59:30

OpenStack架构

2013-07-25 09:12:48

OpenStackSwift对象存储对象存储

2015-08-26 16:17:49

OpenStack OpenStack 架开源云平台

2015-08-25 11:17:13

OpenStack对象存储Swift

2015-04-24 09:46:23

OpenStackCloudFoundrPaaS

2016-06-17 13:43:15

OpenStackSwift跨地域存储集群

2015-08-28 10:01:30

OpenStack超融合虚拟化

2015-01-12 14:55:36

2015-09-17 11:32:56

NeutronSDN虚拟网络

2015-08-18 09:40:32

OpenStack Neutron虚拟网络

2023-07-10 09:27:36

分层架构服务架构
点赞
收藏

51CTO技术栈公众号