知识卡片
解决方案主义:先问该不该用 ML
要绕开整类公平难题,有个干净利落的技巧:如果可以,就别用 ML/AI。许多系统在加入一定自动化后确实更好,但并非总是如此,有时人工介入反而更高效、也更公平。即便认定需要某种程度的自动化,也该追问自动化究竟在哪一步、做到什么程度才讲得通:全算法到全人工之间有很多档位,别把要不要用算法和让算法做什么混为一谈。作者把仅仅因为手边有个现成又时髦的解法(ML)才倒过来去找它能解决什么问题,称为解决方案主义(solutionism)。这类用法往往只增加复杂度、风险与成本,价值很小、没有净收益,还可能把显著偏见或其他不公带进本不该自动化的场景。ML 系统必然复杂,用在契合的问题上能成就惊人的事,错配到别的应用则会放大风险。最聪明的做法是 ML 团队持续、带怀疑地追问 ML 到底是否必要、是否有用,把精力收敛到真正显著增值、因而值得为其隐私与公平投入成本的应用上。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- Fairness, Privacy, and Ethical ML Systems · 查看原书依据
One of the bigger problems with ML is that it often adds complexity, risk, and cost, with little value and no net advantage. We call these uses solutionism: merely because we have a readily available (and trendy) solution (ML), we are trying to figure out what problem it solves.
参考来源
- 位置:《Reliable Machine Learning》第06章《Fairness, Privacy, and Ethical ML Systems》(源文件:extracted/Reliable Machine Learning/_epub-src/OEBPS/ch06.xhtml)
- 结论依据:原文明确阐述该主题,并给出定义、实践或反例。
- 原始内容:One of the bigger problems with ML is that it often adds complexity, risk, and cost, with little value and no net advantage. We call these uses solutionism: merely because we have a readily available (and trendy) solution (ML), we are trying to figure out what problem it solves.