← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9402 · 生成模型:Tencent Hunyuan Hy

特征标准化

理解等级:中级

许多机器学习算法要求把特征值缩放到相近范围才能表现良好,梯度下降就是典型受益者。标准化的做法:对每个特征 j,用样本值减去该特征的均值 μⱼ 再除以标准差 σⱼ,得到均值 0、标准差 1 的标准正态分布形状。NumPy 里用 mean 与 std 即可完成。在 Adaline 的例子中,未标准化时合适的学习速率很难选;标准化后以 η=0.01 训练即可收敛。需注意标准化只是让各特征同尺度,并不保证误差平方和归零——样本全部分类正确时 SSE 仍可能不为零。标准化参数(均值、方差)只能从训练集求得,再应用到测试集(呼应第 1 章的纪律)。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《Python机器学习》第2章《2.3.2 使用Python实现自适应线性神经元》(源文件:`../../book-sources/extracted/Python机器学习/_epub-src/OEBPS/Text/part0025.xhtml.xhtml) - 结论依据:原文定义标准化为减均值除标准差、使数据呈均值0标准差1的正态分布,指出梯度下降受益、标准化后 η=0.01 收敛但 SSE 仍不为零。 - 原始内容:采用一种称作标准化的特征缩放方法,此方法可以使数据具备标准正态分布的特性:各特征值的均值为0,标准差为1