原书出处
深度学习
07 第7章 深度学习中的正则化
了洞察约束的影响,我们可以固定α * ,把这个问题看成只跟 θ 有关的函数: 这和最小化 的正则化训练问题是完全一样的。
因此,我们可以把参数范数惩罚看作对权重强加的约束。如果Ω是L 2 范数,那么权重就是被约束在一个L 2 球中。如果Ω是L 1 范数,那么权重就是被约束在一个L 1 范数限制的区域中。
通常我们不知道权重衰减系数α * 约束的区域大小,因为α * 的值不直接告诉我们k的值。原则上我们可以解得k,但k和α
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/深度学习/_epub-src/text/part0002.html
EPUB SHA-256:30b05f447b47f121324499dd200696e34be257d5cd4c4b753541b42f40a94639