知识卡片
小世界放大风险
内容
microworld模型适合研究受控场景，但一旦扩展到车辆、建筑或城市，假设会遭遇真实人的安全、责任和伦理问题。发散：从实验室到城市，需要重新验证边界，而不是线性放大。
参考来源
- 位置：《架构启示录》第7章《建造智能的世界》正文（源文件：_chapter-text/chapter09.txt，对应OEBPS/Text/chapter49.xhtml）
- 结论依据：作者提出如果把microworld模型从界面或推荐系统扩展到车辆、建筑或城市层面，会遭遇自动驾驶车辆必须在乘客与路人安全之间“选择”等真实的伦理与安全问题，说明放大规模并非简单的线性延伸。
- 原始内容：如果将这种模型从界面或电影推荐系统扩展到车辆上面，那么有可能出现什么问题？……此外还要考虑，会不会出现车辆必须在乘客丧生与路人死亡之间做出“选择”的情况？