← 返回卡片

原书出处

深度学习

07 第7章 深度学习中的正则化

核验版本的摘录快照 · 导入于 2026-11-19T07:27:03.629Z

了洞察约束的影响,我们可以固定α * ,把这个问题看成只跟 θ 有关的函数: 这和最小化 的正则化训练问题是完全一样的。

因此,我们可以把参数范数惩罚看作对权重强加的约束。如果Ω是L 2 范数,那么权重就是被约束在一个L 2 球中。如果Ω是L 1 范数,那么权重就是被约束在一个L 1 范数限制的区域中。

通常我们不知道权重衰减系数α * 约束的区域大小,因为α * 的值不直接告诉我们k的值。原则上我们可以解得k,但k和α

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/深度学习/_epub-src/text/part0002.html

EPUB SHA-256:30b05f447b47f121324499dd200696e34be257d5cd4c4b753541b42f40a94639