知识卡片

普通读书笔记卡 · 2831.a

PS三角色

理解等级:未标注

PS-Lite 的架构边界很清楚:Worker 计算并推拉键值梯度,Server 保存和更新参数,Scheduler 负责协调节点。这个三角色划分让训练逻辑、状态管理和集群治理分开演进。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《分布式机器学习:系统、工程与实战》第3章《参数服务器之PS-Lite》(源文件:_epub-src/Fen Bu Shi Ji Qi Xue Xi _Xi Tong , Gong Cheng Yu Shi Zhan_split_018.html) - 结论依据:原文列出 Worker、Server、Scheduler 三种角色,并分别说明 Worker 推拉梯度、Server 响应请求、Scheduler 协调。 - 原始内容:PS-Lite是一个参数服务器框架,其中参数处理的具体相关策略需要用户自己实现。PS-Lite包含三种角色:Worker、Server、Scheduler,具体关系如图3-3所示。