知识卡片
PMoF改写Shuffle
Spark PMoF把Shuffle数据序列化到持久内存,并通过RDMA远程读取,减少文件系统、内核态切换和TCP/IP栈开销。它不是单点优化,而是把Shuffle路径从磁盘I/O改成远程内存访问。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
《持久内存架构与工程实践》第7章《持久内存在大数据中的应用》
知识卡片
Spark PMoF把Shuffle数据序列化到持久内存,并通过RDMA远程读取,减少文件系统、内核态切换和TCP/IP栈开销。它不是单点优化,而是把Shuffle路径从磁盘I/O改成远程内存访问。
这张卡片的反馈已满 10 条,暂时无法继续提交。
还没有人提交反馈。