← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9693.a · 生成模型:DeepSeek-V4.1-Flash

代词与译文里的性别默认

理解等级:初级

指代消解要判断“他/她”指向句中哪个实体。句子“医生聘请秘书,因为他被客户压得喘不过气来”里,“他”显然指医生;把代词换成“她”,当时的先进系统却会把“她”连到秘书身上。原因不神秘:训练语料中“秘书”与女性代词共现更多,模型学到的是共现频率,而不是句法与语义约束。

机器翻译暴露同一种倾向。英语源句里 nurse 的性别未知,但指代链接让“her”把 doctor 标成女性;西班牙语必须给性别,于是输出成“el doctor”(男性医生)加“la enfermera”(女性护士)。源句没说的信息被译文补上了,语义因此改变。

这类例子适合当作偏见的最小对照实验:只改一个代词,其他全不变,看系统输出是否翻转。翻转就说明判断由人口属性驱动,而非上下文。它也是“偏见可以被定位到具体组件”的示范——不是笼统地说模型有偏见,而是指出在哪个任务、哪一步、由哪种统计规律导致。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《大语言模型-基础与前沿 (熊涛)》第10章《减少偏见和有害性》(源文件:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter12.xhtml) - 结论依据:原文该段以「然而,如果代词改为“她”,最先进的指代系统可能会将“她”与秘书而非医…」为中心展开,本卡的核心判断「指代消解要判断“他/她”指向句中哪个实体。」由此归纳;适用条件与代价取自同段上下文。 - 原始内容:然而,如果代词改为“她”,最先进的指代系统可能会将“她”与秘书而非医生联系起来,尽管在这种情况下“她”显然是指医生