← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9693.k · 生成模型:DeepSeek-V4.1-Flash

表征层去偏与文本改写

理解等级:中级

投影法(SentenceDebias):先定义一组偏见属性词,把它们放进句子做上下文化,用主成分分析估计出一个“偏见子空间”;推理时把句子表征投影到该子空间,再从原表征中减去投影分量。直觉是:偏见方向是表征空间里一个可分的方向,删掉这个方向即可。

零空间投影(INLP):训练一个线性分类器从表征预测受保护属性(如性别),把表征投影到分类器权重的零空间,使该属性无法再被线性读出;可迭代多轮逐步加强。

dropout 正则:提高 BERT、ALBERT 在注意力权重与隐藏激活上的 dropout,并加一段额外预训练。假设是随机丢弃连接能打断“某群体—某职业”的稳定联想。实验显示性别偏见确实下降。

共同代价:投影删掉的是一个方向上的全部信息,其中既有偏见也有任务有用的信号,属于“删信息式”去偏,容易换来能力下降;dropout 需要额外预训练,且效果依模型与数据而变。

另一条路是改写文本而非改表征:风格转换保留语义、只换语气,用编码器—解码器生成非冒犯版本,分类器判风格是否转换成功,再反向翻译回冒犯风格与原句比对以保住内容,训练靠重构与循环一致性损失。它适合内容审核这类“处理别人的文本”的场景,不改变模型本身。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《大语言模型-基础与前沿 (熊涛)》第10章《减少偏见和有害性》(源文件:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter12.xhtml) - 结论依据:原文该段以「INLP通过训练线性分类器来预测模型表征中的受保护属性(如性别),然…」为中心展开,本卡的核心判断「投影法(SentenceDebias):」由此归纳;适用条件与代价取自同段上下文。 - 原始内容:INLP通过训练线性分类器来预测模型表征中的受保护属性(如性别),然后通过将表征投影到分类器权重矩阵的零空间来消除表征的偏见。