知识卡片
安全责任
强大技术会放大误用、误差和副作用,研究者与开发者有责任主动降低风险。不能把“技术中立”当作逃避,因为部署环境会把设计选择转化为现实后果。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 人工智能的哲学、伦理和安全性 小结 · 查看原书依据
人工智能是一种强大的技术,通过致命性自主武器、安全和隐私泄露、意料之外的副作用、意料之外的错误和恶意误用,人工智能构成了潜在的危险。从事人工智能技术研究的人在道德上有责任降低这些危险。
参考来源
- 位置:《人工智能:现代方法(第4版)(上下册)》第27章《人工智能的哲学、伦理和安全性》(源文件:`extracted/人工智能:现代方法(第4版)(上下册)/_epub-src/text/part0050_split_004.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:强大技术会放大误用、误差和副作用,研究者与开发者有责任主动降低风险。原文从「小结」处给出对应机制与依据,支撑本卡结论。
- 原始内容:人工智能是一种强大的技术,通过致命性自主武器、安全和隐私泄露、意料之外的副作用、意料之外的错误和恶意误用,人工智能构成了潜在的危险。从事人工智能技术研究的人在道德上有责任降低这些危险。