知识卡片
ML 不是魔法:风险被当成外部性
看清价值之后,动手之前同样要紧的是看清风险,否则就无法在两者间做有依据的优先级取舍。第一个组织风险是「ML 不是魔法」:多数业务领导者对 ML 的价值与潜力有些认识,却未必同样理解风险,于是领导层有时会把 ML 从业者看成几乎能创造奇迹的人,而在领导层这一级没人真正懂「怎么做到的、为什么」。由于误解了 ML 的范围与机制,领导层同时也忽略了这些项目对全组织的影响范围。作者认为最大的危险在于:风险因此变得不可见,或者实际上成了外部性——也就是「别人的问题」;这是一份「必然发生、只是可能被任意推迟」的灾难配方。这里与第 11 章的结论遥相呼应:模型与数据质量是全组织的使命,把风险推给某个孤立团队,等于把最需要横向协调的部分交给最没有横向视野的人。后续三条风险(心智模型惯性、文化里风险能否浮现、孤岛团队)都可以看成这一条的具体展开。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- Integrating ML into Your Organization · 查看原书依据
By misunderstanding the scope and mechanisms of ML, leadership also overlooks the scope of the impact of those projects across the organization. The greatest danger in this case is that the risks become invisible, or effectively become externalities—in other words, someone else’s problem.
参考来源
- 位置:《Reliable Machine Learning》第13章《Integrating ML into Your Organization》(源文件:extracted/Reliable Machine Learning/_epub-src/OEBPS/ch13.xhtml)
- 结论依据:原文明确阐述该主题,并给出定义、实践或反例。
- 原始内容:By misunderstanding the scope and mechanisms of ML, leadership also overlooks the scope of the impact of those projects across the organization. The greatest danger in this case is that the risks become invisible, or effectively become externalities—in other words, someone else’s problem.