知识卡片
泛化靠约束
深度网络参数很多,泛化需要架构选择、正则化、扰动和足够数据共同约束。训练误差低只是起点,真正的问题是新分布下是否仍能保持可靠。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 深度学习 21.5 泛化 · 查看原书依据
在本节中,我们将重点介绍3种提高泛化性能的方法:选择正确的网络架构、对较大的权重进行惩罚以及在训练过程中对通过网络的值进行随机扰动。
参考来源
- 位置:《人工智能:现代方法(第4版)(上下册)》第21章《深度学习》(源文件:`extracted/人工智能:现代方法(第4版)(上下册)/_epub-src/text/part0042_split_005.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:深度网络参数很多,泛化需要架构选择、正则化、扰动和足够数据共同约束。原文从「21.5 泛化」处给出对应机制与依据,支撑本卡结论。
- 原始内容:在本节中,我们将重点介绍3种提高泛化性能的方法:选择正确的网络架构、对较大的权重进行惩罚以及在训练过程中对通过网络的值进行随机扰动。