知识卡片
人类反馈与模型调整
人工反馈可通过评估回答或标记有害内容,帮助改进模型行为。书中将相关工作与强化学习联系起来;反馈标注只是较完整训练流程的一部分,劳动条件、评价标准与未覆盖的风险同样需要审视。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 流言终结者 · 查看原书依据
它还低薪雇用肯尼亚等发展中国家的人类承包商测试模型,标记任何可能导致种族主义或极端主义有害评论的提示。
参考来源
- 位置:《至高无上:一场颠覆世界的人工智能竞赛》第12章《流言终结者》(来源项目 book-source:`extracted/至高无上 一场颠覆世界的人工智能竞赛/_epub-src/EPUB/xhtml/Chapter4_3`)
- 结论依据:摘录给出案例或概念,正文补充适用边界。
- 原始内容:它还低薪雇用肯尼亚等发展中国家的人类承包商测试模型,标记任何可能导致种族主义或极端主义有害评论的提示。