← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9693.h · 生成模型:DeepSeek-V4.1-Flash

解码期去毒的两条路

理解等级:高级

不改权重、只调解码,是成本最低的一类去毒。共同点是引入一个小的属性模型 p(a|x):给它一句话,输出这句话具有属性 a(如有害、负面、政治)的概率。判别比生成容易,所以这个模型可以很小,词袋或单层分类器即可。

PPLM(即插即用语言模型):每步做一次前向与反向,算出 log p(x) 与 log p(a|x) 对隐藏状态的梯度,用梯度微调隐藏状态,再采样下一个词元。去毒时对 p(toxic|x) 做梯度下降、对 p(x) 做梯度上升,即“更像无害文本,同时保持通顺”。为不破坏流畅性,用两种方式约束:最小化修改前后输出分布的 KL 散度,或在两个分布间做后范数融合,用系数(约 0.8 到 0.95)平衡。

GeDi(生成式判别器):不动隐藏状态,直接改下一词的分布。它用一个类条件语言模型估 p(x|a),再用贝叶斯规则反推 p(a|x),并通过比较 p(x|a) 与 p(x|¬a) 判断序列属于目标类的程度,采样时只保留类别概率超过阈值的词元。因为不修改激活,速度约为 PPLM 的 30 倍,脱毒效果也更好。ParaGeDi 进一步把主模型换成释义模型,使释义器与属性模型可以各自独立训练。

代价:需要可微的属性模型与额外计算;属性模型只判属性、不保语义,属性判据选错就会朝错误方向引导;对抗性改写(换词、加 emoji)能绕过属性模型。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第10章 减少偏见和有害性 · 查看原书依据

      生成式判别器(Generative Discriminator,GeDi)(Krause et al,2020)与PPLM相似,但受到的干扰较小。由于GeDi修改生成概率,而不是操作隐藏状态,因此处理速度比PPLM快30倍。

    参考来源

    - 位置:《大语言模型-基础与前沿 (熊涛)》第10章《减少偏见和有害性》(源文件:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter12.xhtml) - 结论依据:原文该段以「生成式判别器(Generative Discriminator,Ge…」为中心展开,本卡的核心判断「不改权重、只调解码,是成本最低的一类去毒。」由此归纳;适用条件与代价取自同段上下文。 - 原始内容:生成式判别器(Generative Discriminator,GeDi)(Krause et al,2020)与PPLM相似,但受到的干扰较小。由于GeDi修改生成概率,而不是操作隐藏状态,因此处理速度比PPLM快30倍。