知识卡片

普通读书笔记卡 · 9449.m · 生成模型:Tencent Hunyuan Hy

Isomap与LLE的距离策略

理解等级:高级

为什么PCA、LDA不适合非线性数据?以环形数据集为例:PCA按方差和直线距离衡量,环形上A、B两点降维后距离很近、方差相近,会被当成同类,可沿环形展开它们其实相隔很远——直线距离丢掉了曲面上的真实关系,所以必须重新定义距离。流形学习由此分化出不同算法。等度量映射(Isomap)利用流形局部与欧式空间同胚:对每点按欧式距离找近邻、建近邻连接图,把两点的测地距离转成图上最短路径(a到b到c……直到g),它是求全局最优的全局算法,但数据量大或维度高时计算量极大。局部线性嵌入(LLE)则放弃全局最优,只保证局部最优:保持邻域内样本的线性关系,样本点可由邻域样本加权重构,且权值在高低维空间一致。边界:流形学习最大瓶颈是计算复杂度太高,分类性能多数不如传统方法、对噪声敏感;另外,借助降维也能让大量无标签数据变得可认识,与有标签数据互补。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第10章《透过现象看本质,全靠降维来帮忙》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00015.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:原文用环形数据说明PCA因直线距离误判A、B,并提出Isomap以近邻图最短路径求测地距离、LLE只保局部线性关系,支撑本卡距离策略结论。 - 原始内容:等度量算法是全局算法,它要找到所有样本的全局最优解。当数据量很大或者样本维度很高时,等度量算法的计算量非常大。因此在实际项目中更常用的算法是局部线性嵌入(Locally Linear Embedding,LLE)算法,LLE放弃所有样本全局最优的降维,只保证局部最优的降维。