知识卡片
回形针寓言反转
单一目标的持续优化可能忽视其他价值。书中把回形针思想实验与企业追逐增长指标类比;类比提示检查目标和副作用,并不证明企业与假想超级智能机制相同。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 僵局 · 查看原书依据
在尼克·波斯特洛姆的故事里,超级人工智能因用全世界的资源制作回形针而毁灭了人类文明。这听上去很科幻,但何尝不是硅谷自身的寓言。在过去的20年里,少数几家公司发展成为庞然大物,主要在于它们追求病态的发展目标,为了提高市场份
参考来源
- 位置:《至高无上:一场颠覆世界的人工智能竞赛》第15章《僵局》(来源项目 book-source:`extracted/至高无上 一场颠覆世界的人工智能竞赛/_epub-src/EPUB/xhtml/Chapter5_3`)
- 结论依据:摘录提供案例或论点,正文中的适用边界是读者归纳。
- 原始内容:在尼克·波斯特洛姆的故事里,超级人工智能因用全世界的资源制作回形针而毁灭了人类文明。这听上去很科幻,但何尝不是硅谷自身的寓言。在过去的20年里,少数几家公司发展成为庞然大物,主要在于它们追求病态的发展目标,为了提高市场份