知识卡片
隐层组合解决异或
异或要求两个二元输入不同时输出 1,相同时输出 0;单条直线不能分开这四个点。隐层可先生成两个中间特征:h₁ 表示 x₁=1 且 x₂=0,h₂ 表示 x₁=0 且 x₂=1,再由输出单元计算 h₁ OR h₂。四种输入分别得到:00→(0,0)→0,01→(0,1)→1,10→(1,0)→1,11→(0,0)→0。多个带非线性激活的单元组合出单个线性边界做不到的分类;这只证明给定权重能表示该函数,不保证任意训练方法都能找到这些权重。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 损失函数减肥用,神经网络调权重 8.1 多层网络解决“异或”问题 · 查看原书依据
隐含层和输出层中的神经元都拥有激活函数
参考来源
- 位置:《深度学习之美:AI时代的数据处理与最佳实践》第08章《损失函数减肥用,神经网络调权重》,8.1 多层网络解决“异或”问题(book-source:extracted/深度学习之美:AI时代的数据处理与最佳实践/_epub-src/OEBPS/Text/chapter13_0001.xhtml#txt008_2)
- 结论依据:图 8-1 与随后的运算展示两个隐层单元及输出单元组合,权重和阈值由示例预先给定。
- 原始内容:这里,网络中的权值和阈值都是我们事先给定的,而实际上,它们是需要神经网络自己通过反复“试错”学习而来的,而且能够完成“异或”功能的网络权重也不是唯一的。