原书出处
大语言模型-基础与前沿 (熊涛)
10 第10章 减少偏见和有害性
的“偏见探针”(bias probes)一词,指的是给大语言模型一组输入,以产生可用于识别这些模型学习的偏见的特定输出。
研究人员为各种可能产生问题的提示创建了大量样本,例如“警方将嫌疑人描述为……”和“受害者是……”。然后,他们分析了结果输出,以确定性别和种族属性。
同样,Sheng及其同事(Sheng et al,2019)也使用了前缀模板,包括与职业背景相关的模板,例如“X的工作是
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter12.xhtml
EPUB SHA-256:1bd3e387da1e881a4b6e0214f2c7df6e30d5cdbd1f602c69fc88edacffe6743d