知识卡片
卷积层局部连接权值共享
卷积层是 CNN 核心,靠两个机制大幅削减参数。一是局部连接:判断有无飞机只需看“机翼”“机舱”等局部特征,不必看全图,于是每个隐藏层神经元只连接与前层一个卷积核等大的区域。以 100×100×3 图像为例,全连接隐藏层一个神经元要 3 万个权值,局部连接后降到 10×10×3=300 个。二是权值共享:同一个卷积核提取特征的方式与位置无关,在某处学到的特征可用于别处,因此同一卷积核对应的所有神经元共享同一组参数,100 个核时权值总量仍约 3 万个。边界在于:权值共享基于“特征具有平移不变性”的假设。启发是——利用数据的结构先验(局部性+平移不变)可用极少参数表达复杂映射。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 图像识别与卷积神经网络 11.2.2 什么是卷积神经网络 · 查看原书依据
卷积层是CNN的核心所在。它有两方面的特点:一方面是神经元间的连接为局部连接;另一方面是同一层中某些神经元之间共享连接权重。
参考来源
- 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第11章《图像识别与卷积神经网络》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00016.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:原文点明卷积层有局部连接与共享连接权重两大特点,并用 30000 对 300 的权值对比说明计算量骤降,支撑本卡对两大机制的量化解释。
- 原始内容:卷积层是CNN的核心所在。它有两方面的特点:一方面是神经元间的连接为局部连接;另一方面是同一层中某些神经元之间共享连接权重。