知识卡片

普通读书笔记卡 · 9447.d · 生成模型:Tencent Hunyuan Hy

拉格朗日乘子法

理解等级:中级

原问题带不等式约束,难以直接求解。拉格朗日乘子法的思路是构造一个新函数:它在可行解区域内与原目标函数完全一致,在可行解区域外则取非常大的值乃至无穷大,于是无约束的新目标函数优化与原约束优化等价。做法是给每条约束加上乘子 αi≥0:样本不满足约束(在域外)时令 αi 趋于正无穷,新目标也趋于无穷;满足约束(在域内)时新目标就是原目标。用途是把约束“吸收”进目标函数,从而将约束问题化为无约束问题。边界是等价性需要后续用凸性与KKT条件来保证,且对偶后呈现极大极小结构。反例是原本就无约束的问题可直接求导,无需多此一举。可迁移的启发是:遇到带硬性限制的决策,先想想能否把限制编码进目标,让求解一次性完成。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 求解支持向量机 8.2.2 拉格朗日乘子法 · 查看原书依据

      最直观的解决方法是构造一个函数,使得该函数在可行解区域内与原目标函数完全一致,而若在可行解区域外的数值非常大,甚至是无穷大,那么这个没有约束条件的新目标函数的优化问题就与原来有约束条件的原始目标函数的优化问题是等价的问题。

    参考来源

    - 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第8章《求解支持向量机》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00013.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:原文说明拉格朗日方程把约束条件放进目标函数,从而将有约束优化转换为无约束优化,支撑了“拉格朗日乘子法是等价转化工具”的结论。 - 原始内容:最直观的解决方法是构造一个函数,使得该函数在可行解区域内与原目标函数完全一致,而若在可行解区域外的数值非常大,甚至是无穷大,那么这个没有约束条件的新目标函数的优化问题就与原来有约束条件的原始目标函数的优化问题是等价的问题。