知识卡片
顺序写与zero-copy:两个磁盘/网络IO层面的优化
Kafka选择把消息直接持久化到磁盘而非只留在内存,这个决策要成立,必须先解决”磁盘够不够快”的问题,作者用两个具体优化手段说明了如何解决。第一个是顺序写:书中给出一组旧测试:顺序写600MB/s、随机写100KB/s,相差6000倍;这个倍数仅适用于该测试环境,Kafka把每个partition的消息设计成只能”追加写入”、并靠offset顺序标识每条消息的位置,以追加写减少随机写开销;实际吞吐仍取决于设备、负载和刷盘及副本配置,这也是”直接写磁盘”和”必须写内存才够快”这个常见直觉相悖的地方——只要写入模式是顺序的,磁盘可以跑得比想象中快得多。第二个是zero-copy:一条消息从磁盘读出、经网络发给Consumer,传统路径要经过四次数据拷贝和两次系统调用(内核态读缓冲区→用户态应用程序缓冲区→内核态socket缓冲区→网卡缓冲区),zero-copy技术把”用户态应用程序缓冲区”这一跳去掉,让数据直接从内核态读缓冲区流向内核态socket缓冲区再到网卡,减少了一次拷贝和相应的系统调用开销。可迁移启发:这两个优化共享同一个思路——不是通过增加硬件或复杂算法解决性能问题,而是通过重新设计数据的写入/传输路径去匹配底层硬件(磁盘/网卡)本身最擅长的操作模式,往往比单纯堆资源更有效。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《大数据技术体系详解:原理、架构与实践》第4章《分布式消息队列Kafka》之"4.2 Kafka设计架构"(源文件:_epub-src/OEBPS/text00028.html)
- 结论依据:原文说明"当将数据写入磁盘时,采用顺序写的速度要远高于随机写,经测试,在同样环境下,顺序写速度为600MB/s,而随机写仅达到100KB/s,两者相差6000倍。基于此,Kafka Broker将收到的数据顺序写入磁盘……通常情况下,一条存储在磁盘上的数据从读取到发送出去需要经过四次拷贝两次系统调用……通过zero-copy技术优化后,数据只需经过三次拷贝即可发送出去……且无需使用任何系统调用",直接支撑本卡关于顺序写与zero-copy的结论。
- 原始内容:内核态read buffer→用户态应用程序buffer→内核态socket buffer→网卡NIC buffer,通过zero-copy技术优化后,数据只需经过三次拷贝即可发送出去:内核态read buffer→内核态socket buffer→网卡NIC buffer。