知识卡片
ML 事件与普通生产事故的本质差异
作者为整章定下的基调是:ML 系统有几项属性,会让它的故障处理可能与非 ML 生产系统非常不同。最重要的属性是模型与现实世界状况、用户行为之间的强连接——系统要表征的世界、系统实际能表征的内容、系统据此改变世界的能力这三者一旦脱节,就会出现反直觉的效应。直接后果是排障牵动的组织范围远大于标准生产事故:财务、供应商与厂商管理、公关、法务都可能被卷进来,ML 事件的解决绝不是工程团队单独的事。作者还在开篇就把隐私与伦理摆到与恢复同等的位置:先让系统跑起来、之后再补隐私是典型错误;这一点在本章后半的「有伦理的 on-call 工程师宣言」里被展开。理解这个差异,才不会把通用 SRE 手册直接套到 ML 故障上:告警阈值、影响面评估、参与人清单、乃至「故障是否已结束」的判定,都要重新设计。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- Incident Response · 查看原书依据
The main thing to remember is that ML systems have attributes that make resolving their incidents potentially very different from the incidents of non-ML production systems. The most important attribute in this context is their strong connection to real-world situations and user behavior.
参考来源
- 位置:《Reliable Machine Learning》第11章《Incident Response》(源文件:extracted/Reliable Machine Learning/_epub-src/OEBPS/ch11.xhtml)
- 结论依据:原文明确阐述该主题,并给出定义、实践或反例。
- 原始内容:The main thing to remember is that ML systems have attributes that make resolving their incidents potentially very different from the incidents of non-ML production systems. The most important attribute in this context is their strong connection to real-world situations and user behavior.