知识卡片
人工智能对齐
人工智能对齐研究如何使系统的行为与人的目标和价值相符合。书中介绍它作为应对失控风险的研究方向;人类目标本身可能有冲突,因此“对齐”并不自动给出唯一目标或保证安全。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 更好的大脑 · 查看原书依据
考斯基的文章,并沉浸于一个叫作“人工智能对齐”的新研究领域。该领域的科学家和哲学家正在研究如何最好地使人工智能系统与人类的目标“对齐”。
参考来源
- 位置:《至高无上:一场颠覆世界的人工智能竞赛》第04章《更好的大脑》(来源项目 book-source:`extracted/至高无上 一场颠覆世界的人工智能竞赛/_epub-src/EPUB/xhtml/Chapter2_4`)
- 结论依据:摘录介绍相关概念或作品观点;正文补充适用边界。
- 原始内容:考斯基的文章,并沉浸于一个叫作“人工智能对齐”的新研究领域。该领域的科学家和哲学家正在研究如何最好地使人工智能系统与人类的目标“对齐”。