知识卡片
群体平价与校准:两种公平定义
两类定义各自的确切含义值得分清。群体平价(group parity)要求相关的算法性能比率在各群体之间保持一致:例如所有族裔的录用率相同,或诊断低血氧的准确率不随肤色变化。它强调至少应把个体结果放在其身份敏感属性的视角下审视,尤其是法律保护的性别、种族,也包括经济地位等未必受法律保护、但不少人认为道德上重要的属性,因为放眼现实,这些特征往往对结果有着惊人的影响力。校准(calibration)则强调个体公平:要求 ML 模型对所有个体同样好用,虽无法直接测量,但可衡量模型分数对任一个体是否含义相同、不随其群体归属改变。最常引的例子是 COMPAS 再犯风险评分,它被证明跨种族校准正确:同样是 0.5 分,对黑人与白人数据主体都意味着相同的再犯概率,换成大白话就是分数对谁都应是同一个意思。在完美世界里,群体与个体都被公平对待本应导出相同结果;但不完美的现实里做不到,原因之一是数学上的根本限制,因此从业者至少在当下必须自己选定公平定义。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- Fairness, Privacy, and Ethical ML Systems · 查看原书依据
Two common categories of fairness that are intuitive and appealing are group parity and calibration-based assessments. These are far from being the only notions of fairness, but we select these two to discuss for two reasons.
参考来源
- 位置:《Reliable Machine Learning》第06章《Fairness, Privacy, and Ethical ML Systems》(源文件:extracted/Reliable Machine Learning/_epub-src/OEBPS/ch06.xhtml)
- 结论依据:原文明确阐述该主题,并给出定义、实践或反例。
- 原始内容:Two common categories of fairness that are intuitive and appealing are group parity and calibration-based assessments. These are far from being the only notions of fairness, but we select these two to discuss for two reasons.