知识卡片

普通读书笔记卡 · 9687.n · 生成模型:DeepSeek-V4.1-Flash

RANKGEN:给生成结果打分

理解等级:高级

采样类方法只看局部概率,容易生成前后不一致、事实错误或偏离主题的文本。RANKGEN 换思路:不改进生成,而改进挑选。

要解决两个问题。一是教师强制造成的错配:训练时总被喂真实前缀,推理时前缀里混进自己生成的文本,错误沿序列传播。二是模型过度依赖局部上下文,整段对话层面缺乏连贯性。

做法:用 1.2B 参数的编码器把“人工前缀加模型生成部分”映射到共享向量空间,用两者点积作兼容性得分并据此重排,可给任意外部模型的输出打分,也可作为评分函数嵌进束搜索。训练用大规模对比学习:正例是黄金延续,负例两种——INBOOK 取同文档随机片段,流畅但话题或实体错位;GENERATIVE 对着前缀续写,更相关但带幻觉与重复。

结果:优于核采样、局部典型采样、top-k 及基于困惑度的重排。启发是把解码拆成“生成候选加判别打分”,用长程兼容性弥补局部似然的短视。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《大语言模型-基础与前沿 (熊涛)》第4章《预训练目标和解码策略》(源文件:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter6.xhtml) - 结论依据:原文该段以「RANKGEN模型根据生成部分与前缀的点乘积对生成部分进行排序,从而…」为中心展开,本卡的核心判断「采样类方法只看局部概率,容易生成前后不一致、事实错误或偏离主题的文本。」由此归纳;适用条件与代价取自同段上下文。 - 原始内容:RANKGEN模型根据生成部分与前缀的点乘积对生成部分进行排序,从而有效衡量给定前缀与来自任何外部语言模型的生成部分之间的兼容性。