知识卡片

结构图卡 · 9688.p · 生成模型:DeepSeek-V4.1-Flash

轻量级微调的三条路线

理解等级:中级

轻量级微调(LFT)只训练一小部分参数:可以是已有参数的子集,也可以是新加的一组参数,其余全部冻结。按“动哪里”分成三类:

  • 基于添加:插入新模块或新向量,只训练新的部分,如适配器、软提示、IA3;
  • 基于规范:不改结构,只挑已有参数更新,如只训偏置的 BitFit、按费雪信息挑参数的 FishMask;
  • 基于重参数化:把权重更新写成低秩或克罗内克乘积形式,用少量新参数间接表示大矩阵的改动,如 LoRA、KronA。

混合方法把多类手段拼在一起(MAM、Compacter、S4)。共同权衡是:可训练参数越少,存储与多任务切换越便宜,但可能牺牲质量或引入推理开销。

结构图:

flowchart TD
  L["轻量级微调"] --> A["基于添加"]
  L --> S["基于规范"]
  L --> R["基于重参数化"]
  A --> A1["适配器"]
  A --> A2["软提示"]
  A --> A3["IA3"]
  S --> S1["BitFit"]
  R --> R1["LoRA"]
  M["混合方法"] --> A
  M --> S
  M --> R
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第5章 上下文学习和轻量级微调 · 查看原书依据

      这些方法可以分为3组——基于添加、基于规范和基于重新参数化。基于添加的方法向模型中添加少量参数,然后对其进行微调。相比之下,基于规范的方法通过调整模型架构或超参数以实现有效的调整。基于重新参数化的方法修改模型的现有参数,实现轻量级微调。

    参考来源

    - 位置:《大语言模型-基础与前沿 (熊涛)》第5章《上下文学习和轻量级微调》(源文件:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter7.xhtml) - 结论依据:原文该段以「这些方法可以分为3组——基于添加、基于规范和基于重新参数化。基于添加…」为中心展开,本卡的核心判断「轻量级微调(LFT)只训练一小部分参数:」由此归纳;适用条件与代价取自同段上下文。 - 原始内容:这些方法可以分为3组——基于添加、基于规范和基于重新参数化。基于添加的方法向模型中添加少量参数,然后对其进行微调。相比之下,基于规范的方法通过调整模型架构或超参数以实现有效的调整。基于重新参数化的方法修改模型的现有参数,实现轻量级微调。