← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9424.a · 生成模型:Tencent Hunyuan Hy

过滤器、本地连接与参数共享

理解等级:中级

过滤器是卷积层的核心,可看作由可学习权重值组成的图像缩小版。5×5 过滤器在三通道上是 5×5×3、单通道上是 5×5×1,它把覆盖区域的像素连接到一个神经元。过滤器完成两件事:本地连接与参数共享。本地连接指神经元只接收过滤器所定义邻域(感受野)内的像素;滑动时每个位置用该处像素与权重的点积求和,再经 ReLU 激活。参数共享指同一过滤器在整幅图像滑动时始终使用同一组权重,而非为每个位置新建权重;由于不同位置像素高度相关,某处有效的过滤器在别处往往同样有效,因此权重复用能大幅减少参数量。多个不同权重的过滤器并行工作,各自捕捉不同特征,参见 [[卷积计算与滑动三参数]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • CNN 架构 CNN 的架构与各层 · 查看原书依据

      由于图像中不同位置的像素值高度相关,因此使卷积幻灯片共享权重会产生良好的效果。 如果证明过滤器在图像中的某个位置有用,则该过滤器也将在不同位置有用。 整个图像上的过滤器权重共享称为参数共享,大大减少了网络中所需参数的数量。

    参考来源

    - 位置:《Python深度学习架构实用指南(初译)》第04章《CNN 架构》(源文件:`../../book-sources/extracted/Python深度学习架构实用指南(初译)/_epub-src/OEBPS/Text/08.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:原文指出过滤器执行本地连接与参数共享两项任务,并解释权重共享减少参数,直接支撑过滤器双重作用的结论。 - 原始内容:由于图像中不同位置的像素值高度相关,因此使卷积幻灯片共享权重会产生良好的效果。 如果证明过滤器在图像中的某个位置有用,则该过滤器也将在不同位置有用。 整个图像上的过滤器权重共享称为参数共享,大大减少了网络中所需参数的数量。