知识卡片
算法不中立
机器学习会从语料和历史数据中继承偏见,并在推荐、招聘、搜索和城市系统中放大这些偏差。发散:公平性不是上线后的修补项,而应进入数据、模型、界面和治理设计。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第7章 建造智能的世界 · 查看原书依据
Eli Pariser(1980年生)用filter bubble(过滤气泡)效应为例来提醒我们注意这个问题,这是指搜索引擎会根据用户的喜好[3]与它对这些偏好的理解来给用户提供信息,这些信息通常并不包含用户喜好之外的内容。
参考来源
- 位置:《架构启示录》第7章《建造智能的世界》正文,引Donna Haraway及Eli Pariser的过滤气泡效应(源文件:_chapter-text/chapter09.txt,对应OEBPS/Text/chapter49.xhtml)
- 结论依据:文中指出机器学习算法依赖的语料库本身并不中立,会把创立者的偏见与偏差带入模型,并以过滤气泡效应为例说明算法会强化用户既有偏好并压缩信息多样性,支持“算法不中立”。
- 原始内容:机器学习算法要根据语料库来学习,而且还要反复地学习,可是语料库所收集到的数据并不中立,它们还是会把创立者的偏见与创立过程中产生的偏差给带进去。……Eli Pariser(1980年生)用filter bubble(过滤气泡)效应为例来提醒我们注意这个问题,这是指搜索引擎会根据用户的喜好[3]与它对这些偏好的理解来给用户提供信息,这些信息通常并不包含用户喜好之外的内容。