知识卡片
SSP规定更新可见下界
本章也称这一时钟界约束为Clock-bounded Asynchronous Parallel(CAP);它与分布式系统CAP定理同名但含义不同。
SSP给每个工作者一个逻辑进度c,允许有限陈旧度s。处于c的读取必须包含时间戳≤c−s−1的全部更新,以及自己的更新;较新的其他更新可能已见,也可能未见。因此读值不是严格的旧时刻快照,而是在确定下界之上允许混入新更新的参数视图。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 2 处
- 机器学习:范型与架构 · 查看原书依据
具体而言,当某个并行程序读取参数θ 时,SSP模型会给这个并行程序一个过期版本的θ ,即可能有些最新的更新μ 并未体现在这个过期版本的θ 数据中。另一方面,SSP模型会保证其数据过期的有界性,当正在进行第c 轮迭代的并行程序读取参数θ 时,SSP保证其可以看到迭代范围在[0,c -s -1]内对这个参数的所有更新,其中,s 是用户自定义的一个阈值。
- 机器学习:范型与架构 · 查看原书依据
(1)时钟界异步并行(Clock-bounded Asynchronous Parallel,CAP) CAP保证系统内所有的并行程序都能足够快地向前行进,但当行进快的并行程序比慢的并行程序快太多时,则行进快的并行程序需要被阻塞来等待行进慢的并行程序追上来。
参考来源
- 位置:《大数据日知录:架构与算法》第15章《机器学习:范型与架构》(来源项目:book-sources;源文件:extracted/大数据日知录_架构与算法/_epub-src/OEBPS/text00020.html)
- 结论依据:原文在本章对SSP规定更新可见下界给出的定义、机制或示例支持本卡;技术产品描述限于2014年书中版本,示例与实测区分。
- 原始内容:具体而言,当某个并行程序读取参数θ 时,SSP模型会给这个并行程序一个过期版本的θ ,即可能有些最新的更新μ 并未体现在这个过期版本的θ 数据中。另一方面,SSP模型会保证其数据过期的有界性,当正在进行第c 轮迭代的并行程序读取参数θ 时,SSP保证其可以看到迭代范围在[0,c -s -1]内对这个参数的所有更新,其中,s 是用户自定义的一个阈值。
- 合并补充来源:第15章时钟界异步并行小节;源文件:extracted/大数据日知录_架构与算法/_epub-src/OEBPS/text00020.html;SHA256:2a64f70d478db558eb073bf8b937d69a39de9053e9f6c0c537fd071385fcbcf8;摘录出现次序:1。
- 本章原始内容:(1)时钟界异步并行(Clock-bounded Asynchronous Parallel,CAP) CAP保证系统内所有的并行程序都能足够快地向前行进,但当行进快的并行程序比慢的并行程序快太多时,则行进快的并行程序需要被阻塞来等待行进慢的并行程序追上来。