← 返回卡片

原书出处

大语言模型-基础与前沿 (熊涛)

09 第9章 对齐语言模型与人类偏好

核验版本的摘录快照 · 导入于 2026-11-18T14:25:08.847Z

执行任务的能力。目前,研究人员正专注于确保机器学习模型针对真正重要的目标进行优化,而不是依赖于可能达不到目标的代理标准。

例如,ChatGPT和GPT-3等模型是根据下一个词元预测目标进行训练的,但我们希望将它们用于有用且有价值的认知任务,这可能与其最初的训练目标不符。这种不匹配可能会导致一些问题,如模型的行为与预期不符、产生幻觉或生成有害或有毒的内容等。

虽然ChatGPT以其前所未有的能力风靡全球,能够产生非常像人类的文本、对话,在某些情况下还能进行类似人类的推理,但它在

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter11.xhtml

EPUB SHA-256:1bd3e387da1e881a4b6e0214f2c7df6e30d5cdbd1f602c69fc88edacffe6743d