知识卡片

普通读书笔记卡 · 1780.a.2

BSP超级步分三阶段

理解等级:中级

BSP把执行划成多个超级步,每步依次进行本地计算、全局通信、屏障同步,然后进入下一步。局部计算使用本地可用数据,通信交换下一步需要的信息,屏障使各处理器在该步边界对齐。这是计算与通信的组织模型,不限定必须采用某一种机器学习算法。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 机器学习:范型与架构 · 查看原书依据

      BSP模型既包含宏观的垂直结构,也包含微观的水平结构,其垂直结构由沿着时间轴顺序执行的若干超级步(Super Step)计算过程构成,如图15-7所示,而每个超级步内的水平结构由三个依次执行的不同阶段构成,如图15-8所示。 图15-7 BSP模型的垂直结构 图15-8 BSP模型的水平结构 分布计算阶段:多个处理器并发执行分布计算子任务,在计算过程中仅使用本地可得的局部数据。 全局通信阶段:所有的处理器在本阶段进行全局性点对点通信,以便相互间交换所需的数据。 路障同步阶段:当某个处理器执行到本阶段时,会一直等待,直到整个系统所有的通信操作结束,为下一个超级步的执行做相应的准备工作。

    参考来源

    - 位置:《大数据日知录:架构与算法》第15章《机器学习:范型与架构》(来源项目:book-sources;源文件:extracted/大数据日知录_架构与算法/_epub-src/OEBPS/text00020.html) - 结论依据:原文在本章对BSP超级步分三阶段给出的定义、机制或示例支持本卡;技术产品描述限于2014年书中版本,示例与实测区分。 - 原始内容:BSP模型既包含宏观的垂直结构,也包含微观的水平结构,其垂直结构由沿着时间轴顺序执行的若干超级步(Super Step)计算过程构成,如图15-7所示,而每个超级步内的水平结构由三个依次执行的不同阶段构成,如图15-8所示。 图15-7 BSP模型的垂直结构 图15-8 BSP模型的水平结构 分布计算阶段:多个处理器并发执行分布计算子任务,在计算过程中仅使用本地可得的局部数据。 全局通信阶段:所有的处理器在本阶段进行全局性点对点通信,以便相互间交换所需的数据。 路障同步阶段:当某个处理器执行到本阶段时,会一直等待,直到整个系统所有的通信操作结束,为下一个超级步的执行做相应的准备工作。