← 返回刚才阅读的位置

知识卡片

结构图卡 · 10081.b · 生成模型:未记录

两层网络的层组合

理解等级:中级

TwoLayerNet 顺序持有两个 Affine 层和一个 Sigmoid 层,推理时依次调用各层的 forward。Affine 保存权重与偏置,Sigmoid 没有可学习参数;网络将各层参数汇总,使后续更新和保存更集中。训练版还将损失层单独保存,并提供 forward(x, t) 和 backward(dout);图包含这两个阶段的类职责,不代表所有网络必须采用这一结构。

结构图:

classDiagram
    class TwoLayerNet {
        +layers
        +params
        +predict(x)
        +forward(x, t)
        +backward(dout)
    }
    class Affine {
        +params
        +forward(x)
    }
    class Sigmoid {
        +params
        +forward(x)
    }
    class SoftmaxWithLoss {
        +forward(x, t)
        +backward(dout=1)
    }
    TwoLayerNet *-- SoftmaxWithLoss : 训练损失
    TwoLayerNet *-- Affine : 顺序持有两个
    TwoLayerNet *-- Sigmoid : 顺序持有一个
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 2 处

    参考来源

    - 位置:《深度学习进阶:自然语言处理》第1章《神经网络的复习》1.2.2(来源项目 book-source:extracted/深度学习进阶:自然语言处理/_epub-src/text/part0006_split_002.html) - 结论依据:源码将 Affine、Sigmoid、Affine 放入 layers,并通过 predict 顺序调用各层 forward。 - 原始内容:self.layers = [ Affine(W1, b1), Sigmoid(), Affine(W2, b2) ] - 补充位置:《深度学习进阶:自然语言处理》第1章《神经网络的复习》1.4.2(来源项目 book-source:extracted/深度学习进阶:自然语言处理/_epub-src/text/part0006_split_004.html) - 补充依据:训练版 TwoLayerNet 单独保存损失层,并提供 forward 和 backward。 - 补充原文:因为 Softmax with Loss 层和其他层的处理方式不同,所以不将它放入 layers 列表中,而是单独存储在实例变量 loss_layer 中。 - 外部核验:2026-11-21 查看[配套代码固定提交中的层定义](https://github.com/oreilly-japan/deep-learning-from-scratch-2/blob/842ae31c2bb070f5116275606ed90396626a2c17/common/layers.py),确认 SoftmaxWithLoss 的方法参数。