知识卡片
深度服务于表示学习
增加层数会增加连续变换的机会,使网络有能力逐层组合特征,也会提高计算、存储或通信成本。选择深度时,先在相同任务和评估数据上比较浅层基线与深层模型,再一起检查质量与资源开销。仅从历史竞赛的层数和准确率变化,无法确定加深某个现成模型的独立收益。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 2 处
- 损失函数减肥用,神经网络调权重 8.3 是浅而“胖”好,还是深而“瘦”佳 · 查看原书依据
不论是BP算法,还是LBP算法,神经网络扩展到第7层就“戛然而止”了
- 一入侯门“深”似海,深度学习深几许 1.8 有没有浅层学习 · 查看原书依据
因此,我们需要清醒地认识到,对于构建出来的深度模型,“深度”仅仅是手段,“表示学习”才是目的。
参考来源
- 位置:《深度学习之美:AI时代的数据处理与最佳实践》第01章《一入侯门“深”似海,深度学习深几许》,1.8 有没有浅层学习(book-source:extracted/深度学习之美:AI时代的数据处理与最佳实践/_epub-src/OEBPS/Text/chapter6_0008.xhtml#txt001_9)
- 结论依据:同一节用图像分类网络说明表示能力的收益,以及极深叠加可能产生的开销。
- 原始内容:因此,我们需要清醒地认识到,对于构建出来的深度模型,“深度”仅仅是手段,“表示学习”才是目的。