知识卡片
代词与译文里的性别默认
指代消解要判断“他/她”指向句中哪个实体。句子“医生聘请秘书,因为他被客户压得喘不过气来”里,“他”显然指医生;把代词换成“她”,当时的先进系统却会把“她”连到秘书身上。原因不神秘:训练语料中“秘书”与女性代词共现更多,模型学到的是共现频率,而不是句法与语义约束。
机器翻译暴露同一种倾向。英语源句里 nurse 的性别未知,但指代链接让“her”把 doctor 标成女性;西班牙语必须给性别,于是输出成“el doctor”(男性医生)加“la enfermera”(女性护士)。源句没说的信息被译文补上了,语义因此改变。
这类例子适合当作偏见的最小对照实验:只改一个代词,其他全不变,看系统输出是否翻转。翻转就说明判断由人口属性驱动,而非上下文。它也是“偏见可以被定位到具体组件”的示范——不是笼统地说模型有偏见,而是指出在哪个任务、哪一步、由哪种统计规律导致。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第10章 减少偏见和有害性 · 查看原书依据
然而,如果代词改为“她”,最先进的指代系统可能会将“她”与秘书而非医生联系起来,尽管在这种情况下“她”显然是指医生
参考来源
- 位置:《大语言模型-基础与前沿 (熊涛)》第10章《减少偏见和有害性》(源文件:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter12.xhtml)
- 结论依据:原文该段以「然而,如果代词改为“她”,最先进的指代系统可能会将“她”与秘书而非医…」为中心展开,本卡的核心判断「指代消解要判断“他/她”指向句中哪个实体。」由此归纳;适用条件与代价取自同段上下文。
- 原始内容:然而,如果代词改为“她”,最先进的指代系统可能会将“她”与秘书而非医生联系起来,尽管在这种情况下“她”显然是指医生