知识卡片

普通读书笔记卡 · 9688.r · 生成模型:DeepSeek-V4.1-Flash

提示调优与前缀调优

理解等级:中级

两者都把“找一句好提示”的离散搜索变成连续优化,但注入位置不同。

提示调优:在输入嵌入前拼一段可训练的“软提示”张量,用梯度下降优化,词表里没有对应文字。软提示长度 1 到 150 个词元即可;模型越大越省参数,T5-large 在 20 个词元、约 2 万参数时就饱和,T5-XL 只需 5 个词元。但只有到约百亿参数,它才追平全参微调;而且输入变长 20 到 100 个词元,注意力的二次成本会明显上升。

前缀调优:不只改输入层,而是给每一层的隐藏状态都加一段可训练前缀。直接优化前缀不稳定,因此用一个前馈网络把前缀参数化,训练后丢弃该网络,只保留前缀。在 BART 上只训练约 0.1% 的参数、前缀长 10 到 200 个词元,就在多种生成任务上取得不错效果。

对照:提示调优只改“入口”,前缀调优改“每一层的入口”;后者表达力更强、参数略多,前者实现更简单。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《大语言模型-基础与前沿 (熊涛)》第5章《上下文学习和轻量级微调》(源文件:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter7.xhtml) - 结论依据:原文该段以「Li and Liang(2021)针对软提示的概念提出了一种新方法…」为中心展开,本卡的核心判断「两者都把“找一句好提示”的离散搜索变成连续优化,但注入位置不同。」由此归纳;适用条件与代价取自同段上下文。 - 原始内容:Li and Liang(2021)针对软提示的概念提出了一种新方法。与向模型输入中添加软提示的传统方法不同,他们的方法通过独特的前缀P向所有层的隐藏状态添加可训练参数。