原书出处
大语言模型-基础与前沿 (熊涛)
09 第9章 对齐语言模型与人类偏好
改。 一个国家的宪法的核心是一套管理机构或组织的准则或规则。个人要遵守所在国家的宪法所规定的原则,促进社会的和谐与协作。
经过训练后宪法人工智能(Constitutional AI)会遵循其创建者制定的一套原则,例如“请选择最有用、最诚实和无害的回答”。研究人员的目标是实施一些原则,使得大语言模型既有用又无害。
在这项工作中,研究人员制定了16项不同的原则,其中一些原则是其他原则的改写版本,并且有重叠之处。 为了实现训练有用和无害
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter11.xhtml
EPUB SHA-256:1bd3e387da1e881a4b6e0214f2c7df6e30d5cdbd1f602c69fc88edacffe6743d