知识卡片
软阈值分离稀疏更新
把拟合系数 x 和正则系数 z 以 x=z 连接。固定 z 后,x 更新是一组带 ρI 的线性方程,可复用矩阵分解。z 更新对 x+u 逐元素软阈值,将绝对值小于 λ/ρ 的坐标置零,其余坐标沿原符号向零收缩。再用 x−z 累加到 u。
相关机制见 [[ADMM交替两块再校约束]]。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第3章 稀疏回归
原书出处 · 1 处
- 稀疏回归 3.3 Lasso问题的一般求解 · 查看原书依据
同理,对于zk+1的更新,可以通过求次梯度得到
参考来源
- 位置:《分布式机器学习:交替方向乘子法在机器学习中的应用》第3章《稀疏回归》3.3 Lasso问题的一般求解(来源项目 book-source,源文件:extracted/分布式机器学习:交替方向乘子法在机器学习中的应用/_epub-src/OEBPS/Text/chapter3.xhtml)
- 结论依据:3.3 Lasso问题的一般求解中的定义、更新式或实验叙述提供本卡依据。把拟合系数 x 和正则系数 z 以 x=z 连接。
- 原始内容:同理,对于zk+1的更新,可以通过求次梯度得到