1. 首页
  2. IT资讯

阿里蚂蚁二面,面试官问我零拷贝的实现原理,当场懵圈…

“u003Cdivu003Eu003Cblockquoteu003Eu003Cpu003E转载:https:u002Fu002Fmp.weixin.qq.comu002Fsu002Fc01E7NJv9MLIGkS5PdmLUgu003Cu002Fpu003Eu003Cpu003E公众号:占小狼u003Cu002Fpu003Eu003Cu002Fblockquoteu003Eu003Cpu003E”狼哥,面试又跪了,碰到了知识盲区” “哪个?” “一面还可以,二面面试官问我零拷贝的原理,懵逼了…这块内容没去研究过” “哦,这个知识点,我之前应该有讲过,你没注意到?” “这东西工作中用不到,可能被我忽略了” “啧啧啧…” “哎,有空和我讲讲?”u003Cu002Fpu003Eu003Cpu003E”先从简单开始,实现下这个场景:从一个文件中读出数据并将数据传到另一台服务器上?”u003Cu002Fpu003Eu003Cpu003E”为啥写这个?”u003Cu002Fpu003Eu003Cpu003E”你先写”u003Cu002Fpu003Eu003Cpu003E”行…”u003Cu002Fpu003Eu003Cpu003E1分钟后u003Cu002Fpu003Eu003Cpu003E”我写了伪代码”u003Cu002Fpu003Eu003Cpreu003EFileu003Cbru003E.read(file, buf, len);u003Cbru003ESocketu003Cbru003E.send(socket, buf, len);u003Cbru003Eu003Cu002Fpreu003Eu003Cpu003E”这里涉及到了几次数据拷贝?”u003Cu002Fpu003Eu003Cpu003E”2次?磁盘拷贝到内存,内存拷贝到Socket?”u003Cu002Fpu003Eu003Cpu003E”emmm,怪不得挂了,不冤”u003Cu002Fpu003Eu003Cpu003E”这种方式一共涉及了4次数据拷贝,知道用户态和内核态的区别吗?”u003Cu002Fpu003Eu003Cpu003E”了解”u003Cu002Fpu003Eu003Cpu003E”行,文字有点干瘪,你先看这个图”u003Cu002Fpu003Eu003Cdiv class=”pgc-img”u003Eu003Cimg src=”http:u002Fu002Fp3.pstatp.comu002Flargeu002Fpgc-imageu002F390d1cf7471c46c39c7298e79c961867″ img_width=”898″ img_height=”632″ alt=”阿里蚂蚁二面,面试官问我零拷贝的实现原理,当场懵圈…” inline=”0″u003Eu003Cp class=”pgc-img-caption”u003Eu003Cu002Fpu003Eu003Cu002Fdivu003Eu003Cpu003E1、应用程序中调用 read() 方法,这里会涉及到一次上下文切换(用户态->内核态),底层采用DMA(direct memory access)读取磁盘的文件,并把内容存储到内核地址空间的读取缓存区。u003Cu002Fpu003Eu003Cpu003E2、由于应用程序无法访问内核地址空间的数据,如果应用程序要操作这些数据,得把这些内容从读取缓冲区拷贝到用户缓冲区。 read() 调用的返回引发一次上下文切换(内核态->用户态),现在数据已经被拷贝到了用户地址空间缓冲区,如果有需要,可以操作修改这些内容。u003Cu002Fpu003Eu003Cpu003E3、我们最终目的是把这个文件内容通过Socket传到另一个服务中,调用Socket的 send()方法,又涉及到一次上下文切换(用户态->内核态),同时,文件内容被进行第三次拷贝,这次的缓冲区与目标套接字相关联,与读取缓冲区无关。u003Cu002Fpu003Eu003Cpu003E4、 send()调用返回,引发第四次的上下文切换,同时进行第四次拷贝,DMA把数据从目标套接字相关的缓存区传到协议引擎进行发送。u003Cu002Fpu003Eu003Cpu003E”u003Cstrongu003E整个过程中,过程1和4是由DMA负责,并不会消耗CPU,只有过程2和3的拷贝需要CPU参与u003Cu002Fstrongu003E,整明白了?”u003Cu002Fpu003Eu003Cpu003E”我消化一下…”u003Cu002Fpu003Eu003Cpu003E半小时后…u003Cu002Fpu003Eu003Cpu003E”狼哥,感觉这个过程中好几次的拷贝都是多余的,很影响性能啊”u003Cu002Fpu003Eu003Cpu003E”对,所以才有了零拷贝技术”u003Cu002Fpu003Eu003Cpu003E”具体咋实现?”u003Cu002Fpu003Eu003Cpu003E”慢慢来,如果在应用程序中,不需要操作内容,过程2和3显然是多余的,如果可以直接把内核态读取缓存冲区数据直接拷贝到套接字相关的缓存区,是不是可以达到目的?”u003Cu002Fpu003Eu003Cdiv class=”pgc-img”u003Eu003Cimg src=”http:u002Fu002Fp9.pstatp.comu002Flargeu002Fpgc-imageu002Fb99acec68c63464ab1f2e6554afbf0e9″ img_width=”990″ img_height=”648″ alt=”阿里蚂蚁二面,面试官问我零拷贝的实现原理,当场懵圈…” inline=”0″u003Eu003Cp class=”pgc-img-caption”u003Eu003Cu002Fpu003Eu003Cu002Fdivu003Eu003Cpu003E这种实现,可以有以下几点改进:u003Cu002Fpu003Eu003Culu003Eu003Cli class=”ql-align-justify”u003E上下文切换的次数从四次减少到了两次u003Cu002Fliu003Eu003Cli class=”ql-align-justify”u003E拷贝次数从四次减少到了三次(其中DMA copy 2次,CPU copy 1次)u003Cu002Fliu003Eu003Cu002Fulu003Eu003Cpu003E”怎么实现?”u003Cu002Fpu003Eu003Cpu003E”在Java中,FileChannel的transferTo() 方法可以实现这个过程,该方法将数据从文件通道传输到给定的可写字节通道, 上面的 file.read()和 socket.send()调用动作可以替换为 transferTo() 调用”u003Cu002Fpu003Eu003Cpreu003Epublicu003Cbru003Evoidu003Cbru003E transferTo(u003Cbru003Elongu003Cbru003E position, u003Cbru003Elongu003Cbru003E count, u003Cbru003EWritableByteChannelu003Cbru003E target);u003Cbru003Eu003Cu002Fpreu003Eu003Cpu003E在 UNIX 和各种 Linux 系统中,此调用被传递到 sendfile() 系统调用中,最终实现将数据从一个文件描述符传输到了另一个文件描述符。u003Cu002Fpu003Eu003Cpu003E”这样确实改善了很多,但还没达到零拷贝的要求(还有一次cpu参与的拷贝),还有其它黑技术?”u003Cu002Fpu003Eu003Cpu003E”对的,如果底层网络接口卡支持收集操作的话,就可以进一步的优化。”u003Cu002Fpu003Eu003Cpu003E”怎么说?”u003Cu002Fpu003Eu003Cpu003E在 Linux 内核 2.4 及后期版本中,针对套接字缓冲区描述符做了相应调整,DMA自带了收集功能,对于用户方面,用法还是一样,只是内部操作已经发生了改变:u003Cu002Fpu003Eu003Cdiv class=”pgc-img”u003Eu003Cimg src=”http:u002Fu002Fp1.pstatp.comu002Flargeu002Fpgc-imageu002F97b10f3afb884b84bd7de01157284940″ img_width=”906″ img_height=”638″ alt=”阿里蚂蚁二面,面试官问我零拷贝的实现原理,当场懵圈…” inline=”0″u003Eu003Cp class=”pgc-img-caption”u003Eu003Cu002Fpu003Eu003Cu002Fdivu003Eu003Cp class=”ql-align-justify”u003E具体过程:u003Cu002Fpu003Eu003Cp class=”ql-align-justify”u003E1、transferTo() 方法使用 DMA 将文件内容拷贝到内核读取缓冲区。u003Cu002Fpu003Eu003Cp class=”ql-align-justify”u003E2、避免了内容的整体拷贝,只把包含数据位置和长度信息的描述符追加到套接字缓冲区,DMA 引擎直接把数据从内核缓冲区传到协议引擎,从而消除了最后一次 CPU参与的拷贝动作。u003Cu002Fpu003Eu003Cu002Fdivu003E”

原文始发于:阿里蚂蚁二面,面试官问我零拷贝的实现原理,当场懵圈…

主题测试文章,只做测试使用。发布者:逗乐男神i,转转请注明出处:http://www.cxybcw.com/26464.html

联系我们

13687733322

在线咨询:点击这里给我发消息

邮件:1877088071@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

QR code