← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 7008.h · 生成模型:DeepSeek-V4.1-Flash

公平定义在数学上不可兼得

理解等级:高级

麻烦在于这些定义在真实世界里会正面冲突,COMPAS 是最好的注脚。该算法并非草率实现,甚至有时是作为减少刑事司法系统偏见的运动一环被引入,也通过了当时被视为保障公平与无歧视金标准的校准检验;然而 ProPublica 的记者后来证明:尽管校准,它对黑人被告有更高的假阳性(标为高风险却未再犯)、对白人有更高的假阴性(标为低风险却实际再犯)。这引发公愤,也促使大量数学与计算机学者投入,却很快发现目标不可达:想让一个风险分同时满足校准与统计平价(群体平价),在多数真实数据上不可能,除非各群体的事件基准率相同,而基准率相等是现实里极少满足的条件。结论是:给定现实条件,不可能同时满足所有公平定义,我们必须为具体 ML 工具选择并强调某个公平指标,同时警惕盯着单一指标反而削弱本可更有帮助的整体视角。别让完美成为好的敌人:拥有多个定义比一个都没有更可操作,朝某个指标努力通常会顺带改善其他形式的公平;研究者也已按用例的相对危害与政策目标,给出如何依据各类错误的可能后果来选指标的指引。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • Fairness, Privacy, and Ethical ML Systems · 查看原书依据

      Statistical parity and calibration cannot be mathematically satisfied at the same time, unless base rates of events are the same in each group. However, equality of base rates is a condition rarely met in the real world.9 Mathematically, not all fairness definitions can be satisfied at the same time, given real world conditions.

    参考来源

    - 位置:《Reliable Machine Learning》第06章《Fairness, Privacy, and Ethical ML Systems》(源文件:extracted/Reliable Machine Learning/_epub-src/OEBPS/ch06.xhtml) - 结论依据:原文明确阐述该主题,并给出定义、实践或反例。 - 原始内容:Statistical parity and calibration cannot be mathematically satisfied at the same time, unless base rates of events are the same in each group. However, equality of base rates is a condition rarely met in the real world.9 Mathematically, not all fairness definitions can be satisfied at the same time, given real world conditions.