← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 7008.c · 生成模型:DeepSeek-V4.1-Flash

抽样偏差与差别对待

理解等级:初级

原书列举的第一类来源是抽样偏差(sampling bias):数据采集过程本身就把偏见内置进系统。常被引用的例子是,白人与黑人美国人的大麻使用率大致相当,但因大麻持有被逮捕的比例对黑人高得多——个人与系统层面的种族歧视使黑人更常被警方搜查。ML 相关例子是预测警务:警力长期投向低社会经济地位社区,使这些区域或人群的犯罪被过度采样,数据因此误报了不同社区犯罪的真实基准率;这些带偏数据又成为下一轮巡逻分配模型的输入,形成派更多警察、记录更多犯罪、再派更多警察的反馈环。第二类是差别对待(disparate treatment):个体被明确地以不同方式对待,政府与部分受监管私营部门在无正当理由时禁止;基于种族的差别对待在民权运动后几乎从不被法院认可正当,基于性别者有时因紧迫利益被认可。Amazon 曾开发但未部署的内部招聘算法,对就读女子学院施加强负参数,用无关因素直接歧视女性群体,若上线即构成差别对待。识别采样机制与直接歧视性特征,是避免模型放大既有不公的第一道关。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • Fairness, Privacy, and Ethical ML Systems · 查看原书依据

      A commonly given example is that marijuana use among white and Black Americans is thought to be roughly equal, but the rate of arrests for marijuana possession is far higher for Black Americans than for white Americans. This is almost certainly due to (among other reasons) sampling bias.

    参考来源

    - 位置:《Reliable Machine Learning》第06章《Fairness, Privacy, and Ethical ML Systems》(源文件:extracted/Reliable Machine Learning/_epub-src/OEBPS/ch06.xhtml) - 结论依据:原文明确阐述该主题,并给出定义、实践或反例。 - 原始内容:A commonly given example is that marijuana use among white and Black Americans is thought to be roughly equal, but the rate of arrests for marijuana possession is far higher for Black Americans than for white Americans. This is almost certainly due to (among other reasons) sampling bias.