知识卡片
不可逆后果需要减速阀
内容
是否该用自动化替代人工，取决于错误后果是否可挽回。美国核动力海军操作一个阀门要求操作员、 监督员、工程负责人三方通话确认——由人工决策链而非单独一人或自动化系统管理，因为担心自动化 运行速度太快，会把本可被人察觉的异常在来不及反应前酿成无法挽回的灾难。面对核反应堆，”缓慢 而稳健”比”快速完成”更重要。发散：关键不是人力成本高不高，而是出错后扩散到不可挽回地步的 速度，见[[自动化速度会放大配置错误]]。
参考来源
- 位置：《SRE：Google运维解密》第33章《其他行业的实践经验》（源文件：_epub-src/OEBPS/Text/0011_0001.xhtml）
- 结论依据：原文明确"操作某个阀门需要一个操作员、一个监督员，以及一个船员与负责监控该操作的工程负责人保持通话……潜艇上的操作是由一条信任的人工决策链管理的——一系列人，而非单独一个人……核动力海军同时担心自动化和计算机运行速度太快，以至于它们可能造成非常严重且无法挽回的问题"。
- 原始内容：操作某个阀门需要一个操作员、一个监督员，以及一个船员与负责监控该操作的工程负责人保持通话……核动力海军同时担心自动化和计算机运行速度太快，以至于它们可能造成非常严重且无法挽回的问题。当面对核反应堆时，缓慢而稳健的方法比快速完成任务更重要。