知识卡片

普通读书笔记卡 · 9424.d · 生成模型:Tencent Hunyuan Hy

全连接层与展开

理解等级:中级

卷积与池化只完成特征提取,真正的分类发生在网络末端,需要 softmax 概率和交叉熵损失。由于卷积层输出是四维张量(批量、宽、高、通道),先要做展开:把它压成二维张量,第一维仍是批量大小,第二维把最后一层的所有输出值拉平成一个数组。展平后才能在其后接前馈层,让每个新神经元连接到上一层的所有值,用 softmax 与交叉熵像深度前馈网络那样训练。这一层与前馈层结构相同,只因连接的是上一层每一个值而称为全连接层,也叫密集层,以区别于只有本地连接的卷积层。若展平后参数过多,可叠加多个全连接层;其完整用法见 [[CIFAR-10 图像分类器全流程]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • CNN 架构 CNN 的架构与各层 · 查看原书依据

      这里的想法是将最后一个卷积或最大池化层的 4D 张量输出压缩到 2D 张量中,其中第一个维度仍将代表批量大小,第二个维度将包含来自最后一层的所有输出值(像数组一样被压缩) 。 此压缩操作通常称为展开操作。

    参考来源

    - 位置:《Python深度学习架构实用指南(初译)》第04章《CNN 架构》(源文件:`../../book-sources/extracted/Python深度学习架构实用指南(初译)/_epub-src/OEBPS/Text/08.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:原文把展开、全连接与 softmax/交叉熵串成末端分类流程,支撑展平是连接卷积与前馈层前提的结论。 - 原始内容:这里的想法是将最后一个卷积或最大池化层的 4D 张量输出压缩到 2D 张量中,其中第一个维度仍将代表批量大小,第二个维度将包含来自最后一层的所有输出值(像数组一样被压缩) 。 此压缩操作通常称为展开操作。