知识卡片

普通读书笔记卡

BSP用栅栏推进阶段

理解等级:中级

BSP 把并行计算划成连续的 superstep,各进程在一阶段计算并交换消息,到栅栏处等待,所有参与者完成后才进入下一阶段。这适合需要上一轮结果的迭代过程;代价是慢进程会拖住整个阶段。发散:设计时要看阶段工作量是否均衡,而非只增加进程数。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《大规模分布式系统架构与设计实战》第2章《分布式并行计算的原理与实践》2.3“BSP”(源文件:`_epub-src/OEBPS/text00017.html`) - 结论依据:原文把 BSP 组成描述为并行进程、消息层、栅栏层与一系列 superstep,并明确每阶段等待最慢进程完成才进入下一阶段。 - 原始内容:我们看到,BSP思想的核心其实就是将复杂计算过程划分多个阶段,每阶段等待最慢的进程计算完才能进行下一个阶段,并且试图通过一些参数指标估算出并行计算时间