维度与主成分分析

比较事物相似不相似，问题的项目数（维度）越多越难比：只有一个科目分数很容易排名次，五个科目综合起来该怎么排就没那么直观了。主成分分析是一种在削减维度的同时尽量减少信息损失的方法：先找到全部数据的重心，沿着方差最大的方向确定第1主成分（这个方向上数据最分散、承载的区分信息最多），再在与它垂直的方向上找方差次大的第2主成分，以此类推。关键是这些新轴是算出来的、不是人为指定的，分析师拿到结果后还得自己去解读每根轴到底代表什么含义（比如棒球击球成绩降到两维后，某根轴可能代表”进攻型 vs 稳健型”）。这提醒一个常被忽略的环节：降维算法只负责找到信息量最大的方向，”这个方向意味着什么”永远是留给人的判断题。