知识卡片

普通读书笔记卡 · 9400.a · 生成模型:Tencent Hunyuan Hy

感知器权重更新规则

理解等级:中级

感知器靠误差驱动更新权重。算法流程:① 把权重初始化为 0 或极小随机数;② 遍历每个训练样本 x⁽ⁱ⁾,用单位阶跃函数算出预测类标,再按规则更新权重。关键是更新量 Δwⱼ=η·(y⁽ⁱ⁾−ŷ⁽ⁱ⁾)·xⱼ⁽ⁱ⁾,其中 η 是 0~1 的学习速率,y⁽ⁱ⁾ 是真实类标,ŷ⁽ⁱ⁾ 是预测类标。含义是:预测正确时 y−ŷ=0,权重不动;预测错误时按误差大小向正确类别方向移动边界——被错分的样本特征值越大,权重移动越多,决策边界调整越猛。所有权重是同时更新的,更新完一轮才能重算预测。收敛前提是两类线性可分且学习速率足够小;若线性不可分又不设迭代上限,权重会永远更新下去,因此实践中要设最大迭代次数或错分样本阈值。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《Python机器学习》第2章《2.1 人造神经元——早期机器学习概览》(源文件:`../../book-sources/extracted/Python机器学习/_epub-src/OEBPS/Text/part0021.xhtml.xhtml) - 结论依据:原文给出 Δwⱼ 更新公式、η/y/ŷ 的定义、预测正确不更新、错误时按误差成比例移动边界,以及线性可分与学习速率的收敛前提。 - 原始内容:感知器收敛的前提是两个类别必须是线性可分的,且学习速率足够小