知识卡片
达成公平的三类干预
经典 ML 设置提供三种让结果更公平(更少偏)的介入模式。预处理(Preprocessing)作用于数据而非模型:最生硬的做法是重标记数据点(Kamiran 与 Calders 2011 识别那些暗示偏置结果、应被改标签的数据),较温和的则是学习一种弱化群体信息的表示(Zemel 等 2013 让个体的敏感属性难以被准确猜出);因以数据为介入点,它是模型无关的。经验法则是越早在流水线介入越可能得到好结果、也留得住后续手段;代价是激进改标签等于从数据驱动学科里根除信息,变换或删除数据同样挑战其根本信条,且往往难以说清改动几个点究竟让模型变了什么。处理中(In-processing)作用于训练:最常见是调整损失函数、为偏置结果加入反映公平代价的惩罚(Kamishima 等 2011,类似正则化),或同时训练一个对抗模型去猜输出关联的敏感类别、让主模型既完成任务又尽量减少向对抗者泄露的信息(Zhang 等 2018 可做到模型无关)。后处理(Post-processing)作用于模型输出的标签、按目标校正结果:如引入随机化(Hardt 等 2016,避免群体间假阴性不同)、或对不同群体设不同阈值(让信用分、录取分决策对各群体同样准确);因在模型跑完后介入,也模型无关。三类在机制、控制点、模型无关性与代价上各有利弊,需按用例挑选。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- Fairness, Privacy, and Ethical ML Systems · 查看原书依据
Reaching Fairness Concretely, a classic ML setup has three modes of working toward fairer (less biased) outcomes.
参考来源
- 位置:《Reliable Machine Learning》第06章《Fairness, Privacy, and Ethical ML Systems》(源文件:extracted/Reliable Machine Learning/_epub-src/OEBPS/ch06.xhtml)
- 结论依据:原文明确阐述该主题,并给出定义、实践或反例。
- 原始内容:Reaching Fairness Concretely, a classic ML setup has three modes of working toward fairer (less biased) outcomes.