知识卡片
教育算法放大偏见
学习系统可能继承训练材料或交互设计中的偏见,并让缺乏设备能力、有特殊需求的学生更难展示能力。个性化推荐并不自然等于机会公平。评估时应看不同群体是否能参与、错误是否集中在特定学生,而不只比较总体学习效率。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 概述 数据、模型与应用扩散 · 查看原书依据
在人工智能协助学生学习的过程中,可能会放大原本就存在的不平等。当人工智能放大、增强人类的智慧时,它可能会放大有偏见的推理形式。当人工智能不断扩大、不断增强并不断在我们生活的方方面面得到应用时,有可能对某些群体(如缺乏使用智能设备能力的群体或
参考来源
- 位置:《人工智能安全》概述,数据、模型与应用扩散(源项目a19c7933-4eda-4176-aebd-30fe7e1ad292,源文件:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0004.xhtml)
- 结论依据:原文对该概念的说明、比较或案例支撑本卡解释;书中历史数据与技术预测保留原有时点,不当作当前已验证结论。
- 原始内容:在人工智能协助学生学习的过程中,可能会放大原本就存在的不平等。当人工智能放大、增强人类的智慧时,它可能会放大有偏见的推理形式。当人工智能不断扩大、不断增强并不断在我们生活的方方面面得到应用时,有可能对某些群体(如缺乏使用智能设备能力的群体或