知识卡片

普通读书笔记卡 · 9442.d · 生成模型:Tencent Hunyuan Hy

维数灾难:特征非越多越好

理解等级:中级

数据维度指样本的特征数量,特征少称低维、多称高维,高低是相对概念没有硬界限。关键结论是:维度不是越高越好。书中举例,仅用嘴巴、鼻子、纹理、尾巴四个特征就能训练模型分辨猫狗;若再加入毛色、大小、四肢、爪子,效果反而未必更好,因为特征变多后模型判断条件过于细微,会把两种不同毛色的猫是不是同一物种这类特殊情况也学进去。这就是维数灾难——特征维度增加反而使模型效果降低。另一个例子是银行贷款:通过的客户里恰有一小部分没房没车,模型可能误以为房、车不重要,从而忽略了大量没房没车却没得到贷款的客户。用途:提醒做特征工程时要做筛选。边界:是否增维要看特征是否带普适信息;可迁移启发是希望模型学习普适规律而非样本里的偶发特例。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 了解你手上的数据 3.1.3 数据维度 · 查看原书依据

      如果想让计算机自主分辨猫和狗的图片,我们只需要把包含“嘴巴”“鼻子”“纹理”“尾巴”这四个特征的猫和狗的图片提供给模型,经过训练后计算机就能分辨出猫的图片和狗的图片。如果再加上“毛色”“大小”“四肢”“爪子”等特征,分类效果不见得比原来只有四个特征的时候更好,因为特征多了以后模型很难去判断两种不同毛色的猫是不是同一个物种,

    参考来源

    - 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第3章《了解你手上的数据》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00008.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:原文猫狗分类增维反降效、以及银行没房没车客户被误忽略的案例,支撑本卡维数灾难与学普适规律的结论。 - 原始内容:如果想让计算机自主分辨猫和狗的图片,我们只需要把包含“嘴巴”“鼻子”“纹理”“尾巴”这四个特征的猫和狗的图片提供给模型,经过训练后计算机就能分辨出猫的图片和狗的图片。如果再加上“毛色”“大小”“四肢”“爪子”等特征,分类效果不见得比原来只有四个特征的时候更好,因为特征多了以后模型很难去判断两种不同毛色的猫是不是同一个物种,