知识卡片
PCA 的输出怎么读
scikit-learn 里 PCA 与 KPCA 都在 sklearn.decomposition 下。参数不多,但几个选项的含义值得先弄清。
PCA 的关键参数
- n_components:降维后维数。默认 None 取 min(样本数, 特征数),等于不降维;给整数是直接指定;给 'mle' 用 Minka 极大似然自动推断;给 0~1 的浮点表示”保留的方差比例”(见 [[主成分取几个才够]])。
- whiten:是否白化,默认 False。开启后把特征向量按特征值缩放,使各主成分方差为 1。PCA 本身一般不需要,但若降维后还要接其他处理(如某些距离敏感的模型),白化能消除各主成分尺度不一致的影响。
- svd_solver:求解方式。full 是传统 SVD;arpack 用稀疏 SVD;randomized 适合”样本多、维度高、只要少数主成分”的场景,用随机算法加速;默认 auto 自动选。这也从侧面印证了 PCA 的实现基础是 SVD。
怎么读结果
- components_:主成分方向,即投影矩阵 W 的行。
- explained_variance_:各主成分的方差,越大越重要。
- explained_variance_ratio_:各主成分方差占总方差的比例,累加即可判断保留了多少信息。
- n_components_:实际保留的主成分个数。
方法:fit 训练、transform 降维、fit_transform 一步完成。
KPCA 额外参数:kernel(默认 linear,常用 rbf)、gamma(poly/rbf 的系数,默认特征数倒数)、degree(poly 的阶数,默认 3)、coef0;方法同为 fit/transform/fit_transform。若只想看降维结果,用 fit_transform 即可;若要把新样本投到同一空间,必须保存训练好的模型再 transform。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第13章 降维
原书出处 · 1 处
- 第13章 降维 13.2.3 PCA/KPCA的scikit-learn实现 · 查看原书依据
explained_variance_ratio_:降维后各主成分的方差值占总方差值的比例,这个值越大,表示对应的主成分越重要。