知识卡片

普通读书笔记卡 · 7005.d · 生成模型:DeepSeek-V4.1-Flash

部署与服务:预计算与按需推理

理解等级:中级

验证满意后要把模型接入生产系统,核心是把预测「服务」出去。一种做法是预计算所有可能输入的所有预测、写入缓存供系统查询;另一种更常见的是建立从生产系统流出的输入流,实时转成特征按需喂给模型副本,再把预测回送给更大的系统使用。两条路径的取舍与隐患在第 8 章展开。若此后一切完美便大功告成,但现实世界充满不完美,模型尤甚——MLOps 里再小的瑕疵都可能被放大成严重故障,必须提前准备。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《Reliable Machine Learning》第03章《Basic Introduction to Models》(源文件:extracted/Reliable Machine Learning/_epub-src/OEBPS/ch03.xhtml) - 结论依据:原文明确阐述该主题,并给出定义、实践或反例。 - 原始内容:One way to do this is by precomputing all possible predictions for all possible inputs and then writing those to a cache that our system can query.