原书出处
大语言模型-基础与前沿 (熊涛)
09 第9章 对齐语言模型与人类偏好
z0z 证明。参见Korbak et al(2022b)的附录,以及Korbak et al(2022a)的定理1。 *
这项研究允许将语言模型与人类偏好对齐的过程分为两步:①定义一个分布,用于指定语言模型的预期行为。一种原则性的方法是使用贝叶斯规则来定义后验
,例如π。②需要确定如何从目标分布中采样。 KL-RL 这两个步骤对应于概率编程中的建模和推理。建模包括用概率术语对知识
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter11.xhtml
EPUB SHA-256:1bd3e387da1e881a4b6e0214f2c7df6e30d5cdbd1f602c69fc88edacffe6743d