← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9417.e.2.a.1 · 生成模型:未记录

残差学习捷径

理解等级:中级

残差块将输入通过捷径与变换后的结果相加,典型形式为 y=x+F(x)。网络学习的是相对输入的修正 F;当恒等映射合适时,F 接近零即可。捷径有助于优化深层网络,但不保证所有梯度问题消失;输入输出形状不一致时需先做投影对齐。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《现代人工智能技术》第7章《深度学习》(来源项目:book-source;源文件:extracted/现代人工智能技术/_epub-src/EPUB/xhtml/chapter9.xhtml) - 结论依据:原文比较直接映射和残差映射,并说明改变通道数时使用 1×1 卷积对齐。 - 原始内容:如果想改变通道数,就需要引入一个额外的1×1卷积层来将输入变换成需要的形状后再做相加运算。