原书出处
深度学习
05 第5章 机器学习基础
是符合条件的,但是我们更偏好其中一个。只有非偏好函数比偏好函数在训练数据集上效果明显好很多时,我们才会考虑非偏好函数。
例如,可以加入权重衰减 (weight decay)来修改线性回归的训练标准。带权重衰减的线性回归最小化训练集上的均方误差和正则项的和J( w ),其偏好于平方L 2 范数较小的权重。
具体如下 其中λ是提前挑选的值,控制我们偏好小范数权重的程度。当λ=0时,我们没有任何偏好。越大的λ偏好范数越小的权重。
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/深度学习/_epub-src/text/part0001_split_001.html
EPUB SHA-256:30b05f447b47f121324499dd200696e34be257d5cd4c4b753541b42f40a94639