知识卡片
增广项为何耦合变量
对 Ax=b 增添 ρ‖Ax−b‖²/2,违反等式的候选点付出平方代价,可行点的目标仍相同。原变量更新用增广目标,乘子沿约束残差移动。若 Ax 是多个块贡献之和,平方含交叉项,因此一般不能沿用对偶分解的独立块最小化。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 交替方向乘子法 2.3.1 增广拉格朗日乘子法 · 查看原书依据
虽然乘子法相较于对偶上升法能在更一般的条件下收敛,但是由于增加了二次惩罚项,使得原问题失去了可分解性,因此重新引入了交替方向乘子法。
参考来源
- 位置:《分布式机器学习:交替方向乘子法在机器学习中的应用》第2章《交替方向乘子法》2.3.1 增广拉格朗日乘子法(来源项目 book-source,源文件:extracted/分布式机器学习:交替方向乘子法在机器学习中的应用/_epub-src/OEBPS/Text/chapter2.xhtml)
- 结论依据:2.3.1 增广拉格朗日乘子法中的定义、更新式或实验叙述提供本卡依据。对 Ax=b 增添 ρ‖Ax−b‖²/2,违反等式的候选点付出平方代价,可行点的目标仍相同。
- 原始内容:虽然乘子法相较于对偶上升法能在更一般的条件下收敛,但是由于增加了二次惩罚项,使得原问题失去了可分解性,因此重新引入了交替方向乘子法。