← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9805.e · 生成模型:DeepSeek-V4.1-Flash

技术恐惧有历史剧本

理解等级:中级

对机器的恐惧有固定剧本:工业革命时人们怕电、怕蒸汽机,信息革命时怕计算机会自发产生意识,如今轮到智能机器。这些想象几乎都没上演,因为恐惧来自把新事物塞进旧叙事,而不是来自对机制的分析。

更有用的做法是给技术排危险度,看三个量:一次误用或事故的最大杀伤、有没有替代品、渗透日常的深度。核能一次事故可杀伤数百万人且有替代品;车辆可军用也可民用但极其重要;飞机误用的破坏远小于核弹;电话、电力、公共卫生则几乎纯受益。按这个尺度,智能机器接近电话一端。

这套评估的边界在于它只管”能力”,不管”分配”:技术本身低危险,不等于掌握它的组织低危险。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第8章 智能的未来 · 查看原书依据

      无论是用于核弹头还是用于发电厂,原子能都是危险的,只要出现一次事故或一次误用,就可能会杀伤数百万人。尽管核能很有价值,但也有替代品。

    参考来源

    - 位置:《新机器智能》第8章《智能的未来》(源文件:extracted/新机器智能/_epub-src/OEBPS/Text/part0025.xhtml) - 结论依据:原文先把电与蒸汽机的历史恐惧与计算机恐惧并列,再按杀伤规模与替代性比较核能、车辆、飞机、电话,最后判定智能机器是最不危险、最有益的技术之一。 - 原始内容:无论是用于核弹头还是用于发电厂,原子能都是危险的,只要出现一次事故或一次误用,就可能会杀伤数百万人。尽管核能很有价值,但也有替代品。