知识卡片
归一化与标准化
特征缩放让各特征落在相同区间,对梯度下降、KNN(欧几里得距离)等依赖尺度或距离的算法至关重要——若一个特征范围 1~10、另一个 1~100000,算法几乎只被后者主导;决策树和随机森林是少数不需缩放的算法。两种常用方法:归一化(normalization)多指最小-最大缩放,把值压到 [0,1],适合需要限定有界区间的场景;标准化(standardization)把特征变成均值 0、方差 1 的标准正态形状,多数机器学习算法更实用——它保留异常值信息、对异常值影响更小,也更利于权重从 0 附近开始更新。两者都只用训练集拟合参数,再转换测试集。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 数据预处理——构建好的训练数据集 · 查看原书依据
通过标准化,我们可以将特征列的均值设为0,方差为1,使得特征列的值呈标准正态分布,这更易于权重的更新
参考来源
- 位置:《Python机器学习》第4章《4.4 将特征的值缩放到相同的区间》(源文件:`../../book-sources/extracted/Python机器学习/_epub-src/OEBPS/Text/part0057.xhtml.xhtml)
- 结论依据:原文直接支撑上述要点。
- 原始内容:通过标准化,我们可以将特征列的均值设为0,方差为1,使得特征列的值呈标准正态分布,这更易于权重的更新