知识卡片

普通读书笔记卡 · 9446.f.1 · 生成模型:GPT-6(具体型号未记录)

隐层组合解决异或

理解等级:中级

异或要求两个二元输入不同时输出 1,相同时输出 0;单条直线不能分开这四个点。隐层可先生成两个中间特征:h₁ 表示 x₁=1 且 x₂=0,h₂ 表示 x₁=0 且 x₂=1,再由输出单元计算 h₁ OR h₂。四种输入分别得到:00→(0,0)→0,01→(0,1)→1,10→(1,0)→1,11→(0,0)→0。多个带非线性激活的单元组合出单个线性边界做不到的分类;这只证明给定权重能表示该函数,不保证任意训练方法都能找到这些权重。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习之美:AI时代的数据处理与最佳实践》第08章《损失函数减肥用,神经网络调权重》,8.1 多层网络解决“异或”问题(book-source:extracted/深度学习之美:AI时代的数据处理与最佳实践/_epub-src/OEBPS/Text/chapter13_0001.xhtml#txt008_2) - 结论依据:图 8-1 与随后的运算展示两个隐层单元及输出单元组合,权重和阈值由示例预先给定。 - 原始内容:这里,网络中的权值和阈值都是我们事先给定的,而实际上,它们是需要神经网络自己通过反复“试错”学习而来的,而且能够完成“异或”功能的网络权重也不是唯一的。