知识卡片
深度学习学表示
深度学习是一种表征学习方法,学习样本数据的内在规律和表示层次,在语音、图像识别上的效果远超以往技术。深度神经网络通过许多简单的线性变换逐层叠加出非线性变换,能拟合数据中的复杂关系。训练中也有典型难题:过拟合(可用 Dropout 缓解)、学习率等参数难调,以及 Sigmoid 激活下层数一多梯度弥散,直到 ReLU 出现才缓解。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《分布式机器学习实战》第7章《分布式深度学习实战》(源文件:_epub-src/OEBPS/Text/chapter7.xhtml)
- 结论依据:原文说明深度学习是学习样本数据的内在规律和表示层次,是一种基于对数据进行表征学习的机器学习方法;在语音和图像识别方面取得的效果远超先前技术;深度神经网络通过众多简单线性变换层次性地进行非线性变换,能很好拟合数据中的复杂关系;训练中常见过拟合、学习率调参、梯度弥散等问题。
- 原始内容:深度学习是学习样本数据的内在规律和表示层次,这些在学习过程中获得的信息对诸如文字、图像和声音等数据的解释有很大的帮助。……深度神经网络通过众多简单线性变换可以层次性地进行非线性变换,这对于数据中的复杂关系能够很好地进行拟合