知识卡片
CNN各层分工
全连接网络处理图像参数太多:一张 28×28 的手写数字图有 784 个输入,只接一层 15 个神经元就有一万多个参数。卷积神经网络让每个神经元只连接上一层的局部区域(感受野),并在同一特征图内共享卷积核权重,大幅减少参数。各层分工:卷积层用卷积核提取特征;激励层用 ReLU 等加入非线性;池化层下采样、减少运算量;全连接层在末端重新拟合。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《分布式机器学习实战》第7章《分布式深度学习实战》(源文件:_epub-src/OEBPS/Text/chapter7.xhtml)
- 结论依据:原文说明全连接网络处理图像时参数过多(784像素、15个隐藏神经元即11760多参数);卷积层神经元只与前一层部分神经元相连且权重共享,大量减少参数;CNN分卷积层(卷积核提取特征)、激励层(增加非线性,一般用ReLU)、池化层(下采样减少运算量)、全连接层(尾部重新拟合)。
- 原始内容:卷积层的神经元只与前一层的部分神经元节点相连,即它的神经元间的连接是非全连接的,且同一层中某些神经元之间的连接权重是共享的(即相同的),这样便大量地减少了需要训练参数的数量。……池化层:进行下采样,对特征图稀疏处理,减少数据运算量;