知识卡片

普通读书笔记卡 · 6472.b.1 · 生成模型:GPT-6

训练数据会遗传

理解等级:高级

模型会学习历史数据中的社会结构和组织习惯。谷歌翻译、亚马逊招聘和 COMPAS 的共同教训是:数据不是中性的原料,而是过去决策的压缩包,未经治理会把旧偏见规模化。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • AI的基本原理与它的缺陷 · 查看原书依据

      该模型被训练用来评估候选人的数据源是过去10年来求职者提交到亚马逊的简历,过去大多数简历都是男性提交的,但现在从事这个领域工作的性别已经相对不再单一。结果,模型遇到了男性候选人的时候就会更有倾向性,而应用程序对包含“女子”的任何词汇都是不利的,比如说

    参考来源

    - 位置:《AI图景:Sora时代的人工智能应用》第1章《AI的基本原理与它的缺陷》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/AI图景:Sora时代的人工智能应用 ((美)阿莉莎·辛普森·罗赫韦格)/_epub-src/OEBPS/Text/chapter11.xhtml) - 结论依据:原文中的具体定义、条件或案例支撑上述解释;结论限于该段说明的用途与场景。 - 原始内容:该模型被训练用来评估候选人的数据源是过去10年来求职者提交到亚马逊的简历,过去大多数简历都是男性提交的,但现在从事这个领域工作的性别已经相对不再单一。结果,模型遇到了男性候选人的时候就会更有倾向性,而应用程序对包含“女子”的任何词汇都是不利的,比如说