知识卡片
干预选择、算法回退与公平是过程
选哪一类干预,取决于组织真正掌控的环节与规范上能否接受。只拿到一个预训练网络、准备微调,而没有原始训练数据与方法时,后处理往往更可行;反过来,若认为对不同群体设显式不同分数线、或把本可能正确的输出替换成随机数违背了某些人的根本价值,就会排斥后处理。监管者与伦理领袖至今没有给出成熟指引,这只能是高度情境化的逐案分析,算法能提升效率与一致性,但永远不会有适用于所有场景的单一公平解法。与此配套的是算法回退(algorithmic fallbacks):当输出冒犯基本公平、持续监控显示越过所选公平阈值的漂移、或输出过于严厉需人工复核时,应能立刻切断算法,改用临时非算法方案(如给所有人同一输出、取算法均值)、把输出转人工并提示请等待联系,或用恰当错误信息做激进透明。最后是心态:把公平看作过程而非终点。你无法取悦所有人,既没有完美公平解,也没有完美执行某个定义的方法,定了度量并不保证模型能贴合、更不指明该怎么做;但有多个好定义可选、朝公平努力的过程远好于忽视,而且世界与部署条件会变、模型必须演化,公平同样需要持续维护。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- Fairness, Privacy, and Ethical ML Systems · 查看原书依据
It can be helpful to think of fairness as a process rather than a specific endpoint. While this can be disappointing to those who like to think they can build an ML algorithm to solve a business problem and move on, the reality is more complicated.
参考来源
- 位置:《Reliable Machine Learning》第06章《Fairness, Privacy, and Ethical ML Systems》(源文件:extracted/Reliable Machine Learning/_epub-src/OEBPS/ch06.xhtml)
- 结论依据:原文明确阐述该主题,并给出定义、实践或反例。
- 原始内容:It can be helpful to think of fairness as a process rather than a specific endpoint. While this can be disappointing to those who like to think they can build an ML algorithm to solve a business problem and move on, the reality is more complicated.