知识卡片
梯度下降
梯度下降把学习问题变成在策略空间里找下降方向:微调参数,选择最能降低错误的改变,重复前进。它的边界是局部视野,只擅长在可度量、可微调的地方寻找改进;本质仍是[[试错不是低级]]。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《几何学的力量 (乔丹·艾伦伯格)》第07章《机器学习如同登山》(源文件:_epub-src/Ji He Xue De Li Liang_split_038.html)
- 结论依据:原文用登山比喻定义梯度和梯度下降,并说明它是机器学习核心,支撑了卡片对算法机制与边界的概括。
- 原始内容:…前往的所有方向中选出最陡峭的上坡,以此类推。现在,你知道机器学习的工作原理了吧!好吧,也许还不止这些,但这个叫作“梯度下降法”的概念是机器学习的核心。它其实是一种试错法:你尝试一堆可能的行动方案,然后从中选出最有助于你摆脱困境的那个。与某个方向相关的“