知识卡片
不可逆后果需要减速阀
是否该用自动化替代人工,取决于错误后果是否可挽回。美国核动力海军操作一个阀门要求操作员、 监督员、工程负责人三方通话确认——由人工决策链而非单独一人或自动化系统管理,因为担心自动化 运行速度太快,会把本可被人察觉的异常在来不及反应前酿成无法挽回的灾难。面对核反应堆,”缓慢 而稳健”比”快速完成”更重要。发散:关键不是人力成本高不高,而是出错后扩散到不可挽回地步的 速度,见[[自动化速度会放大配置错误]]。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第33章 其他行业的实践经验 · 查看原书依据
我们所调研的各个行业在对待自动化的问题上各有不同。某些行业信任人多过自动化。美国核动力海军通过一系列交叉管理流程来避免自动化。例如,根据Jeff Stevenson的经历,操作某个阀门需要一个操作员、一个监督员,以及一个船员与负责监控该操作的工程负责人保持通话。这些操作过程是极为人工化的,因为担心自动化系统可能不会发现人能注意到的问题。潜艇上的操作是由一条信任的人工决策链管理的—一系列人,而非单独一个人。核动力海军同时担心自动化和计算机运行速度太快,以至于它们可能造成非常严重且无法挽回的问题。当面对核反应堆时,缓慢而稳健的方法比快速完成任务更重要。
参考来源
- 位置:《SRE:Google运维解密》第33章《其他行业的实践经验》(源文件:_epub-src/OEBPS/Text/0011_0001.xhtml)
- 结论依据:原文明确"操作某个阀门需要一个操作员、一个监督员,以及一个船员与负责监控该操作的工程负责人保持通话……潜艇上的操作是由一条信任的人工决策链管理的——一系列人,而非单独一个人……核动力海军同时担心自动化和计算机运行速度太快,以至于它们可能造成非常严重且无法挽回的问题"。
- 原始内容:操作某个阀门需要一个操作员、一个监督员,以及一个船员与负责监控该操作的工程负责人保持通话……核动力海军同时担心自动化和计算机运行速度太快,以至于它们可能造成非常严重且无法挽回的问题。当面对核反应堆时,缓慢而稳健的方法比快速完成任务更重要。