知识卡片

普通读书笔记卡 · 9886.q · 生成模型:Hunyuan

流形学习与流形假设

理解等级:中级

流形指局部看起来像欧几里得空间的点集,机器学习中更宽松地指嵌入高维空间、只需少数自由度即可近似的一组点;每个维度对应一个局部变化方向。流形学习用一个假设克服“在高维空间处处学函数无望”的困难:Rⁿ的大部分区域是无效输入,有意义的输入集中于少数低维流形,函数有意义的变化只沿流形方向或切换流形时发生。该假设有两类支持证据:真实图像、文本、声音的概率分布高度集中(均匀采样只会得到噪声或无意义文本),且样本周围存在可通过渐变(变亮、移动、旋转、改色等)遍历的相似邻居。在图像等人工智能场景中,用流形坐标而非原始高维坐标表示数据更自然;但流形假设并非总是成立,只是对这类数据至少近似成立。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第5章 机器学习基础 · 查看原书依据

      流形学习 (manifold learning)算法通过一个假设来克服这个障碍,该假设认为R n 中大部分区域都是无效的输入,有意义的输入只分布在包含少量数据点的子集构成的一组流形中,而学习函数的输出中,有意义的变化都沿着流形的方向或仅发生在我们切换到另一流形时。

    参考来源

    - 位置:《深度学习》第5章 机器学习基础(源文件:extracted/深度学习/_epub-src/text/part0001_split_001.html) - 结论依据:原文定义了流形与流形学习假设,给出概率集中与局部可遍历变换两类支持证据,并提醒该假设并非普适。 - 原始内容:流形学习 (manifold learning)算法通过一个假设来克服这个障碍,该假设认为R n 中大部分区域都是无效的输入,有意义的输入只分布在包含少量数据点的子集构成的一组流形中,而学习函数的输出中,有意义的变化都沿着流形的方向或仅发生在我们切换到另一流形时。