原书出处
大数据日知录_架构与算法
15 机器学习:范型与架构
(2)值界异步并行(Value-bounded Asynchronous Parallel,VAP) 因为在异步更新的参数服务器模型中,并行程序在传播更新信息时并不要求必须阻塞,所以有可能会产生一批只有自己可见的新的更新,一般将这类更新称为“非同步局部更新”(Unsynchronized Local Updates)。VAP保证对于某个并行程序来说其任意参数的“非同步局部更新”累加值一定小于用户指定的阈值Vthr 。当某个并发程序试图更新一个“非同步局部更新”累加值超过Vthr 的参数时,系统会阻塞该并发程序,并将这个参数足够多的更新对所有其他的并发程序可见,只有这样才允许该并发程序继续前行。
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大数据日知录_架构与算法/_epub-src/OEBPS/text00020.html
EPUB SHA-256:e45b74c4bdd8959aef24f2a5183280eb73ec5f173108f8679a4bbf44bbd5b34d