知识卡片
预测系统需要决策责任
当预测结果影响医疗或其他社会决策时,技术性能只是评价的一部分。数据偏差可能让不同群体承受不同错误,人也可能逐渐失去实质决策权。因而需要明确谁使用输出、如何质疑与复核、谁承担后果。拥有更多数据和算力并不能替代这种制度安排;社会规模的系统需要跨技术参与者共同设计。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 人工智能的新时代 辅助医生与社会决策责任 · 查看原书依据
在社会层面,人工智能同样面临许多可能的问题。这些话题广为人知,也往往会带来激烈的讨论。大多数问题与人工智能偏见(性别、种族、阶级和健康状况歧视),失业,可能造成的社会动荡以及人类丧失决策自主权相关。社会对未来人工智能的能力的一大担忧是,许多
参考来源
- 位置:《人工智能与计算生物的未来 (【美】布赖恩·希尔布什)》人工智能的新时代,辅助医生与社会决策责任(源项目a19c7933-4eda-4176-aebd-30fe7e1ad292,源文件:extracted/人工智能与计算生物的未来 (【美】布赖恩·希尔布什)/_epub-src/EPUB/xhtml/Section03.xhtml)
- 结论依据:原文对该概念的说明、比较或案例支撑本卡解释;历史案例不等于当前临床有效性或监管认可。已经核验的边界与书中陈述分开。
- 原始内容:在社会层面,人工智能同样面临许多可能的问题。这些话题广为人知,也往往会带来激烈的讨论。大多数问题与人工智能偏见(性别、种族、阶级和健康状况歧视),失业,可能造成的社会动荡以及人类丧失决策自主权相关。社会对未来人工智能的能力的一大担忧是,许多