← 返回刚才阅读的位置

知识卡片

结构图卡 · 9784.c · 生成模型:DeepSeek-V4.1-Flash

一张表四种公平指控

理解等级:高级

模型整体表现不错(预测“不太可能”的人中 20% 行动,预测“可能”的 60% 行动),按 A、B 分组后两组的对应比例完全一致,却仍能被四种方式指控不公平:一是预测分布失衡,A 有 80% 被归入“不太可能”,B 只有 20%;二是组内条件准确率相同,两组“可能”都对应 60%,据此可辩称模型含义与群体无关;三是假阳性率不同,B 有 32% 被误标为“可能”而 A 只有 8%,若“可能”是坏标签则 B 被冤枉;四是假阴性率不同,A 有 16% 被误标为“不太可能”而 B 只有 4%,若“不太可能”是坏标签则 A 被冤枉。四条都从同一张表算出,不可能同时满足。选哪条取决于用途、群体身份在此语境中的含义,以及哪种错误更不能承受,所以不存在脱离场景的“公平算法”。

结构图:

flowchart LR
  T["同一张分组预测表\nA、B 各 125 人"] --> M1["预测分布\n80% 对 20%"]
  T --> M2["组内条件准确率\n20% 与 60% 相同"]
  T --> M3["假阳性率\n32% 对 8%"]
  T --> M4["假阴性率\n16% 对 4%"]
  M1 --> C["四种互不相容的\n“不公平”结论"]
  M2 --> C
  M3 --> C
  M4 --> C
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第26章 数据伦理 · 查看原书依据

      论点 3 40/125 = 32% 的 B 组被误标记为“可能”,而只有 10/125 = 8% 的 A 组被误标记为“可能”。该数据科学家(认为“可能”的预测是坏事)坚持认为,该模型不公平地侮辱了 B 组。

    参考来源

    - 位置:《数据科学入门(第2版)》第26章 数据伦理(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0030.xhtml) - 结论依据:原文这一段直接给出本卡的核心判断:「论点 3 40/125 = 32% 的 B 组被误标记为“可能”,而只有 10/……」 - 原始内容:论点 3 40/125 = 32% 的 B 组被误标记为“可能”,而只有 10/125 = 8% 的 A 组被误标记为“可能”。该数据科学家(认为“可能”的预测是坏事)坚持认为,该模型不公平地侮辱了 B 组。