← 返回卡片

原书出处

大语言模型-基础与前沿 (熊涛)

09 第9章 对齐语言模型与人类偏好

核验版本的摘录快照 · 导入于 2026-11-18T14:25:08.849Z

任何f散度来近似任何目标分布。f-DPG统一了RLHF和GDC框架以及近似方法(如DPG算法和带有KL惩罚的强化学习)。

Go等论证了不同散度目标选择的实际优势,并表明了不存在统一的最优目标,但不同的散度对近似不同的目标是有效的。例如,研究发现,对于GDC方法,Jensen-Shannon散度经常大大优于前向KL散度

,从而比以前的工作有了显著的改进。一些常见的f散度如图9-6所示。 图9-6 一些常见f散度(图片来源:Go et al

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter11.xhtml

EPUB SHA-256:1bd3e387da1e881a4b6e0214f2c7df6e30d5cdbd1f602c69fc88edacffe6743d