知识卡片
规模决定伦理责任大小
技术工作被认为负有特殊的伦理负担,原因不在“技术”,而在产出被复制的规模。新闻推荐算法的一处小改动,决定数百万人是否看到某篇文章;一个全国部署的假释评分模型一旦有缺陷,就统一作用在所有人身上,而凭直觉断案的假释委员会只影响坐在它面前的当事人。关键差别是错误的结构:人工判断的错误分散、彼此独立、当事人可以当面申辩;算法的错误一致、可无限复制,且被影响的人通常不知道自己在被评分。由此得到一条可操作的判据——影响面越广、越难被个体申诉纠正的产出,发布前越该检查;反之,一次性的、范围很小的分析不值得套用同样的审查强度。注意这条判据的依据是“影响”,不是“是否涉及数据”:不碰数据的技术决策同样适用。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第26章 数据伦理 · 查看原书依据
一个关于新闻发现算法的微小变化可能会导致数百万人阅读一篇文章或没有人阅读该文章。 在全国范围内使用的一个有瑕疵的假释授权算法会系统地影响数百万人,而一个“为所欲为”的假释委员会只会影响在此之前的人。
参考来源
- 位置:《数据科学入门(第2版)》第26章 数据伦理(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0030.xhtml)
- 结论依据:原文这一段直接给出本卡的核心判断:「一个关于新闻发现算法的微小变化可能会导致数百万人阅读一篇文章或没有人阅读该文章……」
- 原始内容:一个关于新闻发现算法的微小变化可能会导致数百万人阅读一篇文章或没有人阅读该文章。 在全国范围内使用的一个有瑕疵的假释授权算法会系统地影响数百万人,而一个“为所欲为”的假释委员会只会影响在此之前的人。