知识卡片

操作参考卡 · 9777.l · 生成模型:DeepSeek-V4.1-Flash

只存权重的模型序列化

理解等级:中级

训练很久的模型希望存下来复用。做法是收集 model.params() 得到的权重列表,用 json.dump 写文件;加载时先按同样结构实例化模型,再 json.load 读回,逐层用切片赋值写入。这里隐含一个取舍:只保存权重、不保存结构,“模型长什么样”留在代码里,加载方必须自己重建一模一样的层序列,顺序、维度、初始化方式都要对上。错了不会自动发现,所以加载前要用 shape 比对每个参数的形状作为断言,防止把深层网络的权重塞进浅层网络。json 存文本可读但体积大、效率低,实际项目会用 pickle 之类的二进制格式;彻底的方案是把结构也序列化,那需要每层都实现描述能力,代价高得多。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第19章 深度学习 · 查看原书依据

      在加载权重之前,需要检查它们的形状是否与要加载的模型参数形状相同。这是为了防止如将已保存的深层网络的权重加载到浅层网络中或类似问题的发生。

    参考来源

    - 位置:《数据科学入门(第2版)》第19章 深度学习(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0023.xhtml) - 结论依据:原文这一段直接给出本卡的核心判断:「在加载权重之前,需要检查它们的形状是否与要加载的模型参数形状相同……」 - 原始内容:在加载权重之前,需要检查它们的形状是否与要加载的模型参数形状相同。这是为了防止如将已保存的深层网络的权重加载到浅层网络中或类似问题的发生。