知识卡片
机器学习与目标偏差
机器学习通过数据寻找规律,以处理任务,而非为每种情况手写具体规则。书中用目标函数的思想实验说明:系统追求设定目标时可能产生设计者未预期的后果,因此评估不仅要看目标完成度,也要检查副作用。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 孤勇高中生 · 查看原书依据
特龙解释说,为了实现“适应度函数”或目标,人工智能系统可能会采取出乎意料的行为方式。假如一个人工智能的目标被设计成生存和繁殖,那么它可能会在无意中消灭地球上的所有生物。特龙表示,这并不意味着人工智能就是坏东西。它只是没有
参考来源
- 位置:《至高无上:一场颠覆世界的人工智能竞赛》第01章《孤勇高中生》(来源项目 book-source:`extracted/至高无上 一场颠覆世界的人工智能竞赛/_epub-src/EPUB/xhtml/Chapter2_1`)
- 结论依据:摘录提供定义或论点,正文补充适用边界。
- 原始内容:特龙解释说,为了实现“适应度函数”或目标,人工智能系统可能会采取出乎意料的行为方式。假如一个人工智能的目标被设计成生存和繁殖,那么它可能会在无意中消灭地球上的所有生物。特龙表示,这并不意味着人工智能就是坏东西。它只是没有