什么是零拷贝,Netty是如何实现的?

开发 前端
在计算机中,完成数据传输,要么是通过网络,要么就是通过本地磁盘。通常完成一次完整I/O交互流程分为两阶段,首先拷贝到系统内核空间,由操作系统来完成;紧接着要拷贝到用户空间,这个由应用程序来完成。

作为一个高性能的网络通信框架,被越来越多互联网公司关注和重视。最近,有小伙伴在面试过程中被问到Netty是如何实现零拷贝的问题?,今天,我给大家来聊一聊。

我们先来看什么是零拷贝?

1、什么零拷贝

在计算机中,完成数据传输,要么是通过网络,要么就是通过本地磁盘。通常完成一次完整I/O交互流程分为两阶段,首先拷贝到系统内核空间,由操作系统来完成;紧接着要拷贝到用户空间,这个由应用程序来完成,具体交互流程如下图所示。

那什么是零拷贝呢?顾名思义,零拷贝的意思包括两个部分,“零”和“拷贝”:

  • “拷贝”:就是指数据从一个存储区域转移到另一个存储区域。
  • “零” :表示次数为0,它表示拷贝数据的次数为0。

合起来“零拷贝”就是不需要将数据从一个存储区域复制到另一个存储区域。

2、为什么要零拷贝

零拷贝主要是指将系统内核空间的内存和用户空间的内存实现直接关联映射,从而省去了数据传输过程中的来回拷贝,也就是说,要完成数据传输数据拷贝次数为0次。

有这么一段代码,主要将服务端主机磁盘中的文件从已连接的socket发出去。关键实现代码如下:

while((n = read(diskfd, buf, BUF_SIZE)) > 0){
write(sockfd, buf , n);
}

以上代码是用传统的IO编写的,它的执行过程大致是这样的:

首先,read()方法,会把数据从磁盘循环读取到内核缓冲区,再拷贝到用户缓冲区。

然后,write()方法先把数据写入到socket缓冲区,最后写入网卡设备。

因为,传统的IO在在数据传输过程中拷贝次数太多,导致性能低下。为了减少拷贝次数,增加系统性能,才有了零拷贝的设计。另外,零拷贝并不是指完全没有文件的拷贝,只是减少了拷贝的次数。

3、零拷贝在Netty中的实现

从流程图可以看出,传统IO的读写流程,包括了4次用户态和内核态的切换,也就是4次上下文切换,4次数据拷贝,其中两次CPU拷贝以及两次的DMA拷贝。关于上下文切换和DMA拷贝,在这里我们就不详细赘述了,以后可以单独拍摄一期视频来详细介绍。想了解的小伙伴可以在评论区回复666.

那在Netty中,是如何实现零拷贝的呢?有以下三种方式

(1) 使用堆外内存,也叫直接内存。Netty的接收和发送都采用DIRECT BUFFERS,对应系统底层的mmap机制,直接使用堆外内存进行Socket读写,不需要进行字节缓冲区的二次拷贝。

(2) 提供了组合Buffer对象,可以聚合多个ByteBuffer对象,用户只需要像操作一个Buffer一样方便的对组合Buffer进行操作,避免了传统通过内存拷贝的方式将几个小Buffer合并成一个大的Buffer,不需要做内存拷贝。

(3) 的文件传输采用了transferTo方法,直接使用了NIO的sendfile机制,它可以直接将文件缓冲区的数据发送到目标Channel,避免了传统通过循环write方式导致的内存拷贝问题。

责任编辑:姜华 来源: Tom弹架构
相关推荐

2023-07-29 13:45:30

了不起 Java极

2021-03-12 13:57:13

零拷贝技术

2023-07-27 08:26:36

零拷贝I/O操作

2023-08-26 21:42:08

零拷贝I/O操作

2016-11-23 19:09:39

javanetty

2024-01-09 18:09:43

模型方式DMA

2022-02-09 09:37:54

ReactorNettyI/O

2023-06-05 08:00:00

mTLSIstio安全

2022-09-23 08:47:01

DMA网卡CPU

2023-07-11 10:33:48

净零度碳排放

2022-10-28 11:44:44

物联网IoT

2023-05-17 15:36:57

2021-09-17 12:50:10

MySQL数据库ACID

2020-11-17 14:28:56

数据中心

2021-07-15 10:35:16

NettyTCPJava

2022-08-11 10:38:57

NetDevOpsIT网络

2018-06-08 10:54:26

2021-03-01 08:55:23

物联网清洁技术IOT

2021-03-20 22:46:22

IaaSSaaSPaaS

2009-08-05 15:37:50

什么是RESTRESTful的实现
点赞
收藏

51CTO技术栈公众号