知识卡片
分布式变量
分布式变量是策略层的核心对象:逻辑上像一个变量,物理上可能有多个副本或分片。理解它才能解释为什么更新需要 reduce、merge_call 或同步读写,而不是普通赋值。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《分布式机器学习:系统、工程与实战》第17章《分布式策略基础》(源文件:_epub-src/Fen Bu Shi Ji Qi Xue Xi _Xi Tong , Gong Cheng Yu Shi Zhan_split_095.html)
- 结论依据:原文定义分布式变量是在多个设备上创建的变量,并举 MirroredVariable 和 SyncOnRead 为例。
- 原始内容:析如何更新一个分布式变量(Distributed Variable)。分布式变量是在多个设备上创建的变量,比如MirroredVariable和SyncOnRead(读时同步)变量。更新分布式变量的标准模式如下。