原书出处
大语言模型-基础与前沿 (熊涛)
09 第9章 对齐语言模型与人类偏好
,PPO模型的真实性和信息量方面都略有提高。在3种条件下使用RealToxicPrompts数据集测试了该模型的无害性。
当被要求做出尊重他人的回答时,该模型明显减少了毒性回答。当不限制尊敬程度时,毒性没有明显变化。但是,当指示提供毒性回答时,该模型的响应明显比GPT-3模型的毒性更大。
9.1.2 KL散度:前向与反向 KL散度(Kullback and Leibler,1951),也称为Kullback
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter11.xhtml
EPUB SHA-256:1bd3e387da1e881a4b6e0214f2c7df6e30d5cdbd1f602c69fc88edacffe6743d