知识卡片
别默认人类决策更公平
讨论算法偏见时,人们容易默认前算法时代由人来决定更公平,作者提醒这并不成立。传统方案无论是指定明确的人类决策者(如法官量刑、教授评分),还是根本没有清晰决策者的扁平组织,历史上都不总好:大量实证研究表明,种族会影响法官的量刑决定,甚至影响店员是否允许顾客退货这类随意判断。因此思考 AI/ML 的公平与伦理时,也要承认相对人类决策者,算法在某些场景下确实可能带来改进;一些算法应用在提升整体公平上已相当成功,尽管目前仍没有让 AI/ML 在全局或可保证意义上公平公正的清晰解法。这一点把比较的锚点摆正:评估算法公平应以具体的人类基线为参照,而非与一个理想化的完美公平对照。但承认它不等于豁免算法偏见,它只是提醒我们别一味唱衰、也别天真乐观,要在具体用例里逐案权衡。本章随后的悲观内容,正是建立在这种双向清醒之上。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- Fairness, Privacy, and Ethical ML Systems · 查看原书依据
Therefore, when we think about fairness and ethics in AI and ML, we also have to recognize that they may very well provide improvements in some cases relative to human decision makers.
参考来源
- 位置:《Reliable Machine Learning》第06章《Fairness, Privacy, and Ethical ML Systems》(源文件:extracted/Reliable Machine Learning/_epub-src/OEBPS/ch06.xhtml)
- 结论依据:原文明确阐述该主题,并给出定义、实践或反例。
- 原始内容:Therefore, when we think about fairness and ethics in AI and ML, we also have to recognize that they may very well provide improvements in some cases relative to human decision makers.