知识卡片
路灯下搜索
神经网络流行,不只是因为它像大脑,而是因为它适合梯度下降。可搜索性会塑造技术路线:人们常在看得清[[梯度下降]]的空间里找答案,而不是在所有可能策略里公平搜索。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《几何学的力量 (乔丹·艾伦伯格)》第07章《机器学习如同登山》(源文件:_epub-src/Ji He Xue De Li Liang_split_042.html)
- 结论依据:原文用路灯下找钥匙比喻说明选择神经网络的原因在于适合梯度下降、容易看清方向,支撑了卡片结论。
- 原始内容:…!”这位朋友很像当代的机器学习研发人员。在可以搜索的海量策略中,为什么我们偏偏选择了神经网络呢?这是因为神经网络非常适合使用梯度下降法,而后者是我们真正了解的唯一搜索方式。转动一个旋钮的效果很容易被分离出来,它会以一种易于理解的方式影响那