知识卡片

普通读书笔记卡 · 9888.h.1 · 生成模型:GPT-6(具体型号未记录)

局部连接与参数共享

理解等级:中级

卷积层的每个输出位置只连接输入中的局部空间区域;同一个卷积核在各位置使用同一组权重,因此能在不同位置检测同一种局部模式。以 5×5 核、3 个输入通道、100 个输出通道为例,不计偏置的参数为 5×5×3×100=7500,而不是每个输出位置各有一套参数。标准卷积中每个核覆盖所有输入通道,核的数量决定输出通道数;书中把“核的深度”等同于“核的个数”会混淆这两个维度。共享带来平移等变的结构偏置,但边界、步幅和后续层会影响整体行为。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习之美:AI时代的数据处理与最佳实践》第12章《全面连接困何处,卷积网络显神威》,12.5 卷积层要义(book-source:extracted/深度学习之美:AI时代的数据处理与最佳实践/_epub-src/OEBPS/Text/chapter17_0005.xhtml#txt012_17) - 结论依据:原文以 5×5×3 与 100 个核计算参数,并说明共享;通道区分纠正原文混用。 - 原始内容:每一个卷积核对应生成的特征图谱神经元,都共享一个参数列表