知识卡片
特征分片汇总预测
按特征分块后,每个节点只维护自己的系数块 xᵢ。预测要将 Aᵢxᵢ 相加,所有样本上的共同误差由总预测计算。局部正则随系数块可分,共享变量在预测空间中协调。特征数量很大且样本尚可整体表示时,这种切分降低局部模型大小,却可能使网络传输随样本量增长。
相关机制见 [[样本分片汇总系数]]。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第3章 稀疏回归
原书出处 · 1 处
- 稀疏回归 3.4.2 基于特征划分的Lasso问题 · 查看原书依据
所以,基于特征划分的Lasso问题可以切分特征到低维度中去求解,然后再合并起来,从而达到分布式并行求解的目的,最终能够解决大样本和高纬度特征数据的并行化问题。
参考来源
- 位置:《分布式机器学习:交替方向乘子法在机器学习中的应用》第3章《稀疏回归》3.4.2 基于特征划分的Lasso问题(来源项目 book-source,源文件:extracted/分布式机器学习:交替方向乘子法在机器学习中的应用/_epub-src/OEBPS/Text/chapter3.xhtml)
- 结论依据:3.4.2 基于特征划分的Lasso问题中的定义、更新式或实验叙述提供本卡依据。按特征分块后,每个节点只维护自己的系数块 xᵢ。
- 原始内容:所以,基于特征划分的Lasso问题可以切分特征到低维度中去求解,然后再合并起来,从而达到分布式并行求解的目的,最终能够解决大样本和高纬度特征数据的并行化问题。