知识卡片
分区增加存在饱和点
分块初期,节点的局部负担减轻,训练墙钟时间容易下降。分区过多后,每轮聚合增加通信与等待,局部子问题也可能因有限轮数或小块数据而给出较差近似。书中监控准确率和运行时间,划分最优点随样本量、特征量和网络条件变化。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 极大不相关多元逻辑回归 8.5.2 一致性求解算法的实验对比 · 查看原书依据
由图8.6可以看出,算法的计算时间刚开始随着块数的增加线性下降,当并行化程度达到一个饱和点,计算时间下降速度趋于缓和,甚至会出现上升。
参考来源
- 位置:《分布式机器学习:交替方向乘子法在机器学习中的应用》第8章《极大不相关多元逻辑回归》8.5.2 一致性求解算法的实验对比(来源项目 book-source,源文件:extracted/分布式机器学习:交替方向乘子法在机器学习中的应用/_epub-src/OEBPS/Text/chapter8.xhtml)
- 结论依据:8.5.2 一致性求解算法的实验对比中的定义、更新式或实验叙述提供本卡依据。分块初期,节点的局部负担减轻,训练墙钟时间容易下降。
- 原始内容:由图8.6可以看出,算法的计算时间刚开始随着块数的增加线性下降,当并行化程度达到一个饱和点,计算时间下降速度趋于缓和,甚至会出现上升。