知识卡片

普通读书笔记卡 · 7008.f · 生成模型:DeepSeek-V4.1-Flash

公平没有单一定义:个体群体与不要急于收敛

理解等级:中级

ML 社区至今没有就单一公平定义达成共识,却存在若干直觉上吸引人的类别:个体公平主张除种族、性别等无关因素外相同的两个人应被同等对待;群体公平主张各群体的错误率相同、质量相同、整体性能同样高;还有更复杂的路径试图先建立因果机制,理解是什么驱动个体成败再做算法分类。作者挑出群体平价(group parity)与基于校准(calibration)的评估两类,理由是它们直观、且分别凸显了两种不同公平观。随后是一段明确的 Warning:现阶段不该把收敛到单一公平定义当作目标。其一,没必要,按任何度量衡量,现实部署的大多数模型仍根本不公平(或公平性根本未经检验),从现成定义里挑一两个去努力,就能立刻取得进展,无需坐等理论或法律的进一步定论。其二更结构性:AI/ML 理论目前主要由社会中的主导群体掌控,而他们恰恰最容易忽视系统对失权或代表性不足群体的伤害,不应由他们来裁决未来被写定为唯一正确、且排斥其他可能性的公平定义。不同用例本就可能需要不同公平观,这一点在现实生活里也常见。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • Fairness, Privacy, and Ethical ML Systems · 查看原书依据

      Definitions of Fairness In the ML community, we have not cohered around a single definition of fairness, but common categories exist that have intuitive and appealing descriptions. For example, some definitions of fairness emphasize individual fairness.

    参考来源

    - 位置:《Reliable Machine Learning》第06章《Fairness, Privacy, and Ethical ML Systems》(源文件:extracted/Reliable Machine Learning/_epub-src/OEBPS/ch06.xhtml) - 结论依据:原文明确阐述该主题,并给出定义、实践或反例。 - 原始内容:Definitions of Fairness In the ML community, we have not cohered around a single definition of fairness, but common categories exist that have intuitive and appealing descriptions. For example, some definitions of fairness emphasize individual fairness.