← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 4545.j.2.a.5

计算靠近数据减少搬运

理解等级:中级

将Map任务安排到持有输入副本的机器,或同一机架,能减少跨网络读取。调度器因此要同时知道输入位置和可用计算资源。本地化只是放置偏好:若最近节点忙碌,等待时间可能抵消网络收益,不能把“离数据最近”直接等同于整体最快。

可联系[[网络拓扑影响数据放置]]理解条件与边界。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      本地化:尽量将任务分配给离输入文件最近的Map进程,如同一台机器或者同一个机架。通过本地化策略,能够大大减少传输的数据量。

    参考来源

    - 位置:《大规模分布式存储系统:原理解析与架构实战》第13章《大数据》(来源项目book-sources;extracted/大规模分布式存储系统:原理解析与架构实战/_epub-src/OEBPS/Text/Section0001_split_003.xhtml;src-074)。 - 结论依据:原文的对应定义、执行流程或比较支撑“将Map任务安排到持有输入副本的机器,或同一机架,能减少跨网络读取。”;额外边界是基于该机制的解释,不将历史实现推广为当前产品保证。 - 原始内容:本地化:尽量将任务分配给离输入文件最近的Map进程,如同一台机器或者同一个机架。通过本地化策略,能够大大减少传输的数据量。