原书出处
大数据日知录_架构与算法
16 机器学习:分布式算法
从以上两个算法可以看出其执行逻辑为:首先,总控程序将所有的训练数据分发到k 台服务器,每台服务器获得完整的训练数据。然后,每台服务器可并行执行单机SGD任务,单机SGD任务顺序地从所有的训练数据中随机抽样,并根据其梯度的反方向作为目标函数下降方向,每次以η 步长更新特征权重向量。如此反复执行T 次,每台服务器的单机SGD任务可以得到一个模型参数,之后总控程序从每台服务器收集到各自的模型后,通过取均值的方式来获得最终的模型参数。
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大数据日知录_架构与算法/_epub-src/OEBPS/text00021.html
EPUB SHA-256:e45b74c4bdd8959aef24f2a5183280eb73ec5f173108f8679a4bbf44bbd5b34d