知识卡片
成对比较减轻打分分歧
单点评分要求独立给回答打绝对分,同一人或不同人也可能标准不稳。成对比较只问两个回答哪个更好,用提示、胜出回答、落败回答形成训练数据。比较更容易一些,但仍需要读懂和核查内容,也不能消除偏好差异。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 理解基础模型
原书出处 · 1 处
- · 查看原书依据
一个更简单的方式是让标注员比较两个响应,判断哪个更好。对于每段提示词,由人类或AI生成多个响应,得到的标注数据即为比较数据,其格式为(提示词,胜出响应,落败响应)。表2-7展示了Anthropic公司用于某个模型的比较数据示例。在该示例的两个响应中,
参考来源
- 位置:《AI工程:大模型应用开发实战》第2章《理解基础模型》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/AI工程:大模型应用开发实战/_epub-src/EPUB/xhtml/Section010.xhtml)
- 结论依据:原文定义、条件、机制或比较支持上述说明,案例数据限于原书语境。
- 原始内容:一个更简单的方式是让标注员比较两个响应,判断哪个更好。对于每段提示词,由人类或AI生成多个响应,得到的标注数据即为比较数据,其格式为(提示词,胜出响应,落败响应)。表2-7展示了Anthropic公司用于某个模型的比较数据示例。在该示例的两个响应中,