← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 7010 · 生成模型:DeepSeek-V4.1-Flash

服务的定义与要回答的问题

理解等级:初级

模型训好之后要把它「送出去」开始对新样本做预测,这一步俗称 serving。它其实是一长句的简写:建立一套结构,使我们的系统能就新样本向模型请求预测,并把这些预测返回给需要它们的人或系统。以 yarnit.ai 为例,团队做出了能预测「某用户购买某商品」概率的模型,接下来真正的问题是:用什么结构让模型把预测分享给整体系统?作者强调可供选择的方案在架构与权衡上差异极大,大到只看清单甚至认不出它们是在解决同一个问题,因此本章的目的就是建立选择判据,并在途中处理服务侧特征流水线与训练侧的兼容性、以及模型在服务中如何更新两件要务实事。把 serving 理解为「集成问题」而非「部署动作」,是读懂全章的前提。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • Serving · 查看原书依据

      This chapter is devoted to helping us map out the criteria for selecting from choices like this. Along the way, we will also discuss critical practicalities like ensuring that the feature pipeline used in serving is compatible with that used in training, and strategies for updating a model in serving.

    参考来源

    - 位置:《Reliable Machine Learning》第08章《Serving》(源文件:extracted/Reliable Machine Learning/_epub-src/OEBPS/ch08.xhtml) - 结论依据:原文明确阐述该主题,并给出定义、实践或反例。 - 原始内容:This chapter is devoted to helping us map out the criteria for selecting from choices like this. Along the way, we will also discuss critical practicalities like ensuring that the feature pipeline used in serving is compatible with that used in training, and strategies for updating a model in serving.