知识卡片
感知机用误差修正权重
二分类感知机先用当前权重和阈值预测标签,再比较期望标签 y 与预测标签 ŷ。对输入分量 xᵢ,更新量为 Δwᵢ = η(y−ŷ)xᵢ,其中 η 是学习率;判断正确时误差为零,本次不改权重。把阈值 θ 写为权重 w₀、固定输入 x₀ = −1,就可用同一规则更新阈值,因此 Δθ = −η(y−ŷ)。例如误把正类判成负类时,正的输入分量会推动对应权重增加,而阈值降低。书中 7.4 的简化式对阈值的加号及对输入的省略与后文一般式不一致;应按所选符号约定和输入逐项计算。训练样例全部正确不自动证明新样本也正确,数据不可线性分开时也不能保证训练会停止。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- Hello World感知机,懂你我心才安息 7.5 感知机训练法则 · 查看原书依据
权重和阈值的学习可以“一统天下”,称为“权重”的学习
参考来源
- 位置:《深度学习之美:AI时代的数据处理与最佳实践》第07章《Hello World感知机,懂你我心才安息》,7.5 感知机训练法则(book-source:extracted/深度学习之美:AI时代的数据处理与最佳实践/_epub-src/OEBPS/Text/chapter12_0005.xhtml#txt007_6)
- 结论依据:原文固定哑元输入为 −1,公式 7-4 和示例代码按误差乘输入更新;负阈值更新与泛化边界是依据公式的推论。
- 原始内容:对于训练样例(x,y),若当前感知机的实际输出y',假设它不符合预期,存在“落差”,那么感知机的3个权值可依据公式(7-4)所示的规则统一进行调整。