← 返回刚才阅读的位置

知识卡片

操作参考卡 · 9908.o · 生成模型:Hunyuan

PMML与TF Serving部署

理解等级:中级

若想离线训练后直接部署、避免割裂模型,可用 PMML 这一中间媒介。PMML 是预测模型标记语言,用 XML 表示不同模型的结构参数,在训练平台与预测平台间充当桥梁。以 Spark MLlib 为例,JPMML 在 Spark 侧把模型序列化成 PMML 文件存入共享存储,Java Server 侧解析文件生成预估模型并与业务逻辑整合;服务端 library 只做推断、不做训练与分布式部署,因而很轻,Mleap 是同类方案。但 PMML 表达能力有限,面对 TensorFlow 复杂模型不够用,此时需用原生 TensorFlow Serving:它定义自己的序列化标准,最便捷的方式是用 Docker 拉取镜像后一行命令启动模型服务 API,虽被诟病性能,却因易用和对复杂模型的支持成为首选。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第6章 深度学习推荐系统的工程实现 · 查看原书依据

      PMML的全称是“预测模型标记语言”(Predictive Model Markup Language,PMML),是一种通用的以XML的形式表示不同模型结构参数的标记语言。在模型上线的过程中,PMML经常作为中间媒介连接离线训练平台和线上预测平台。

    参考来源

    - 位置:《深度学习推荐系统》第6章 深度学习推荐系统的工程实现(源文件:extracted/深度学习推荐系统/_epub-src/text/part0010_split_005.html) - 结论依据:原文介绍 PMML 作为通用中间媒介连接训练与预测平台、JPMML 的序列化与解析分工,并说明复杂模型需 TensorFlow Serving 及其 Docker 部署方式。 - 原始内容:PMML的全称是“预测模型标记语言”(Predictive Model Markup Language,PMML),是一种通用的以XML的形式表示不同模型结构参数的标记语言。在模型上线的过程中,PMML经常作为中间媒介连接离线训练平台和线上预测平台。