知识卡片
部署与服务:预计算与按需推理
验证满意后要把模型接入生产系统,核心是把预测「服务」出去。一种做法是预计算所有可能输入的所有预测、写入缓存供系统查询;另一种更常见的是建立从生产系统流出的输入流,实时转成特征按需喂给模型副本,再把预测回送给更大的系统使用。两条路径的取舍与隐患在第 8 章展开。若此后一切完美便大功告成,但现实世界充满不完美,模型尤甚——MLOps 里再小的瑕疵都可能被放大成严重故障,必须提前准备。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- Basic Introduction to Models · 查看原书依据
One way to do this is by precomputing all possible predictions for all possible inputs and then writing those to a cache that our system can query.
参考来源
- 位置:《Reliable Machine Learning》第03章《Basic Introduction to Models》(源文件:extracted/Reliable Machine Learning/_epub-src/OEBPS/ch03.xhtml)
- 结论依据:原文明确阐述该主题,并给出定义、实践或反例。
- 原始内容:One way to do this is by precomputing all possible predictions for all possible inputs and then writing those to a cache that our system can query.