知识卡片
残差学习捷径
残差块将输入通过捷径与变换后的结果相加,典型形式为 y=x+F(x)。网络学习的是相对输入的修正 F;当恒等映射合适时,F 接近零即可。捷径有助于优化深层网络,但不保证所有梯度问题消失;输入输出形状不一致时需先做投影对齐。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第7章 深度学习
原书出处 · 1 处
- 深度学习 · 查看原书依据
如果想改变通道数,就需要引入一个额外的1×1卷积层来将输入变换成需要的形状后再做相加运算。
参考来源
- 位置:《现代人工智能技术》第7章《深度学习》(来源项目:book-source;源文件:extracted/现代人工智能技术/_epub-src/EPUB/xhtml/chapter9.xhtml)
- 结论依据:原文比较直接映射和残差映射,并说明改变通道数时使用 1×1 卷积对齐。
- 原始内容:如果想改变通道数,就需要引入一个额外的1×1卷积层来将输入变换成需要的形状后再做相加运算。