原书出处
大语言模型-基础与前沿 (熊涛)
10 第10章 减少偏见和有害性
小按比例降低负单词的概率。 在具有挑战性的RealToxicityPrompts子集上自纠偏有效地减少了6个属性的偏见。
但是,该策略也存在一些局限性,因为它仅使用Perspective API提供的有害性和偏见属性进行了评估。无害单词有时会被过滤,其脱毒能力也仅限于模型对相关偏见和有害性的认识。
2. 前缀调优和对比前缀 智能提示的设计初衷是创建一个有效的上下文,可实现期望的补全。Li and Liang(2021
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter12.xhtml
EPUB SHA-256:1bd3e387da1e881a4b6e0214f2c7df6e30d5cdbd1f602c69fc88edacffe6743d