知识卡片
自动化会削弱人类的临场反应能力
自动化覆盖的日常操作越多,操作员与真实系统的直接接触就越少;由于缺乏实践,他们会丧失反应 的流畅性,脑海里系统”应该”如何运作的心理模型会偏离系统”正在”如何运作,这是民航和工业领域 研究高度自动化系统时反复验证的现象。更危险的是,设计者常假设手动操作路径依然存在、可随时 顶上,但支撑手动操作的能力往往早已随自动化一起悄悄退化,真正需要人接管时,退路其实已经 不存在了。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第7章 Google 的自动化系统的演进 · 查看原书依据
在非计算机领域中对自动化影响的类似讨论—例如,民航[20]或工业应用中—经常会指出高效的自动化的缺点[21]:随着时间的推移,操作员与系统的有用的、直接接触会逐渐减少,因为自动化会覆盖越来越多的日常活动。不可避免的,当自动化系统出现问题时,操作员将无法成功地操作该系统。 由于缺乏实践,他们已经丧失了反应的流畅性,他们有关系统“应该”做什么的心理模型不再反映现实中系统“正在进行”的活动[22]。这种情况在系统非自主运行时出现得更多,即,当自动化逐渐取代了手动操作,假设其他的手工操作仍然可能执行,并且如之前一样一直可用。令人难过的是,随着时间的推移,这一假设终将不再正确:这些手动操作最后将无法执行,因为允许它们执行的功能已经不存在了。
参考来源
- 位置:《SRE:Google运维解密》第7章《Google 的自动化系统的演进》"可靠性是最基本的功能"一节(源文件:_epub-src/OEBPS/Text/0008_0005.xhtml)
- 结论依据:原文引用民航、工业领域对高度自动化系统的既有研究,指出操作员因缺乏实践丧失反应流畅性、心理模型不再反映系统实际状态,并说明手动操作所依赖的能力会随时间随自动化一起退化直至无法执行。
- 原始内容:“由于缺乏实践,他们已经丧失了反应的流畅性,他们有关系统‘应该’做什么的心理模型不再反映现实中系统‘正在进行’的活动……随着时间的推移,这一假设终将不再正确:这些手动操作最后将无法执行,因为允许它们执行的功能已经不存在了。”