知识卡片
局部连接与参数共享
卷积层的每个输出位置只连接输入中的局部空间区域;同一个卷积核在各位置使用同一组权重,因此能在不同位置检测同一种局部模式。以 5×5 核、3 个输入通道、100 个输出通道为例,不计偏置的参数为 5×5×3×100=7500,而不是每个输出位置各有一套参数。标准卷积中每个核覆盖所有输入通道,核的数量决定输出通道数;书中把“核的深度”等同于“核的个数”会混淆这两个维度。共享带来平移等变的结构偏置,但边界、步幅和后续层会影响整体行为。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 全面连接困何处,卷积网络显神威 12.5 卷积层要义 · 查看原书依据
每一个卷积核对应生成的特征图谱神经元,都共享一个参数列表
参考来源
- 位置:《深度学习之美:AI时代的数据处理与最佳实践》第12章《全面连接困何处,卷积网络显神威》,12.5 卷积层要义(book-source:extracted/深度学习之美:AI时代的数据处理与最佳实践/_epub-src/OEBPS/Text/chapter17_0005.xhtml#txt012_17)
- 结论依据:原文以 5×5×3 与 100 个核计算参数,并说明共享;通道区分纠正原文混用。
- 原始内容:每一个卷积核对应生成的特征图谱神经元,都共享一个参数列表