PhegData核心原力:RDMA的跃进之力

企业动态
为了降低网络延迟,提高处理效率,RDMA技术应运而生,通过允许用户态的应用程序直接读取和写入远程内存,而无需CPU介入多次拷贝内存,并可绕过内核直接向网卡写数据,实现了高吞吐量、超低时延和低CPU开销的效果。

为了解决爆炸式增长的数据存储和读取效率问题,尤其是当前应用无论存储延迟还是高吞吐都有很高要求,传统架构已很难满足需求。利用分布式存储实现多节点横向空间扩展、多节点性能高并发访问越来越受到欢迎。

但也带来了因为节点间数据交互导致存储网络繁忙,一旦因拥塞造成丢包,将会引发IO请求重传,不仅降低效率,还会加重拥塞。同时传统的网络协议栈(如TCP/IP)并不是针对高性能应用场景设计的,因此难以提供高效的通信支持,系统调用和内存复制等操作都会带来巨大的性能开销。

为了降低网络延迟,提高处理效率,RDMA技术应运而生,通过允许用户态的应用程序直接读取和写入远程内存,而无需CPU介入多次拷贝内存,并可绕过内核直接向网卡写数据,实现了高吞吐量、超低时延和低CPU开销的效果。

RDMA是一种通过网络把数据直接传入另一台计算机内存区域的技术,其很少占用CPU资源,不需要进行内存复制,基本可以不需要内核介入数据传输过程。这种数据传输方式可以提供低延时,高带宽和低CPU使用率,最大化的利用网络设备本身的资源,避免各种协议栈的开销,其作为NVMe over Fabric的传输网络非常合适。 

RDMA(RemoteDirect Memory Access)技术全称远程直接内存访问,就是为了解决网络传输中服务器端数据处理的延迟而产生的。

它将数据直接从一台计算机的内存传输到另一台计算机,无需双方操作系统的介入。这允许高吞吐、低延迟的网络通信,尤其适合在大规模并行计算机集群中使用。

RDMA通过网络把资料直接传入计算机的存储区,将数据从一个系统快速移动到远程系统存储器中,而不对操作系统造成任何影响,这样就不需要用到多少计算机的处理能力。它消除了外部存储器复制和上下文切换的开销,因而能解放内存带宽和CPU周期用于改进应用系统性能。

目前,大致有三类RDMA网络,分别是Infiniband、RoCE、iWARP。

其中,Infiniband是一种专为RDMA设计的网络,从硬件级别保证可靠传输 。而RoCE 和 iWARP都是基于以太网的RDMA技术,支持相应的verbs接口。在Ethernet以太网上,根据协议栈融合度的差异,分为iWARP和RoCE两种技术,而RoCE又包括RoCEv1和RoCEv2两个版本(RoCEv2的最大改进是支持IP路由),各RDMA网络协议栈的对比如下图所示:

Infiniband,支持RDMA的新一代网络协议。由于这是一种新的网络技术,因此需要支持该技术的Infiniband网卡和交换机,性能体验上最佳。

RoCE,一个允许在以太网上执行RDMA的网络协议。其较低的网络标头是以太网标头,其较高的网络标头(包括数据)是InfiniBand标头。这支持在标准以太网基础设施(交换机)上使用RDMA。需要支持RoCE网络协议的以太网卡才可使用,性能接近Infiniband

iWARP,一个允许在TCP上执行RDMA的网络协议。IB和RoCE中存在的功能在iWARP中不受支持。这支持在标准以太网基础设施(交换机)上使用RDMA,需要支持iWARP特性的网卡才可以使用,对比Infiniband RDMA 和ROCE性能较差

PhegData-X研发团队自研存储引擎SmartStor-X集成RDMA通讯功能,支持通过InfiniBand、RoCE或TCP模式实现计算到存储端、存储节点之间数据传输。

配合自研高性能SmartCache缓存模块、自研高并发块客户端,为客户提供高性能低延迟的理想型分布式存储解决方案。下图为通过Infiniband RDMA方式和以太网TCP方式的性能对比,无论8k场景或1024k场景下随机读写性能RDMA方式对比TCP均要提升一倍左右。

作为分布式存储的新原力,通过软件定义,具有如下特点:

  • 高度的开放兼容性,支持主流X86,申威以及飞腾平台,不受硬件厂商绑定
  • 高性能,Phegdata X通过SSD缓存加速,采用全并发IO引擎,支持IB,万兆上去行,能够提供高性能存储服务
  • 高可靠性,Phegdata X支持多副本,节点或磁盘异常后能够自动重构,具有高可靠性的特点
  • 高扩展能力,Phegdata X采用去中心化架构,支持磁盘和节点扩展,扩展后自动均衡,最大支持4096个节点

面向未来数据中心设计打造的PhegData-X系列同时兼顾传统业务应用,既可以满足数据库等传统核心关键业务需求,也可以完美支持大数据分析、虚拟化、容器、私有云等新型业务应用。

典型应用场景

结合RDMA高速网络解决方案,PhegData-X可以解决客户绝大多数高性能需求场景,保证客户业务高效稳定运行的同时,提升业务的敏捷性与竞争力。

 

责任编辑:张燕妮 来源: 51CTO
相关推荐

2015-10-26 19:33:54

DaoCloudDocker容器Docker

2015-10-18 19:45:56

DaoCloudDocker容器

2016-07-04 17:56:33

云灾备

2015-08-20 09:21:12

大数据云平台

2019-08-12 18:29:50

存储

2023-11-04 20:09:13

算力网络RDMA

2021-05-26 10:33:35

戴尔PowerEdge

2022-04-22 18:15:35

锐捷网络数字化转型

2019-05-21 10:38:17

Linux命令行

2020-03-10 11:00:22

CIO核心竞争力竞争力

2023-04-26 10:06:16

2019-06-18 14:12:07

Hadoop大数据数据库

2016-03-31 10:47:02

DaoCloudDocker容器

2016-08-23 09:28:41

华为无线网络行业专网

2012-12-12 16:26:21

2011-08-24 09:27:16

Windows 8

2014-12-24 14:40:06

程序员

2012-06-11 11:51:03

大数据

2023-08-30 18:28:13

IBMwatsonx人工智能

2014-09-16 16:45:12

移动
点赞
收藏

51CTO技术栈公众号