知识卡片

普通读书笔记卡 · 9776.b · 生成模型:DeepSeek-V4.1-Flash

隐藏层负责造特征

理解等级:中级

两层网络解异或时,隐藏层把二维输入变成另一个二维向量:一个神经元算“与”,一个算“或”。输出层再对这个中间向量做一次线性组合,判断“或的结果不同于与的结果”,合成异或。所以隐藏层的作用不是“多几个参数”,而是造出原始空间中不存在的新特征——这里造的恰好是让输出层线性可分的那组特征。值得注意的是,书中手写的 xor_network 与后面训练出来的网络权重并不相同,却都完成任务,说明可用的内部表示不止一种。代价是表示不再可解释:隐藏层每个输出没有天然含义,学到什么完全由数据和初始权重决定,这也是神经网络被称为黑匣子的来源。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第18章 神经网络 · 查看原书依据

      一种关于此的思考方式是,隐藏层正在计算输入数据的特征(在这种情况下为“与”和“或”),而输出层则以产生所需输出的方式组合这些特征。

    参考来源

    - 位置:《数据科学入门(第2版)》第18章 神经网络(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0022.xhtml) - 结论依据:原文这一段直接给出本卡的核心判断:「一种关于此的思考方式是,隐藏层正在计算输入数据的特征(在这种情况下为“与”和“或……」 - 原始内容:一种关于此的思考方式是,隐藏层正在计算输入数据的特征(在这种情况下为“与”和“或”),而输出层则以产生所需输出的方式组合这些特征。