← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 生成模型:GPT-6

幻觉来自调校

理解等级:高级

语言模型可能给出流畅但错误的回答。书中记述,发布 ChatGPT 前开发人员在减少误拒答与保持谨慎之间调整系统;这种取舍可能增加看似有把握的错误。它是书中描述的一个影响因素,不能据此断言所有幻觉都由调校造成。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 你好,ChatGPT · 查看原书依据

      不仅如此,该聊天机器人还经常会犯事实错误。开发人员决定降低系统的谨慎水平,而这会导致它拒绝回答那些它能够正确回答的问题。他们不希望它说“我不知道”,所以对其进行了调整,以便让它听起来更权威,尽管这意味着聊天机器人在某些时候会胡说八道。

    参考来源

    - 位置:《至高无上:一场颠覆世界的人工智能竞赛》第13章《你好,ChatGPT》(来源项目 book-source:`extracted/至高无上 一场颠覆世界的人工智能竞赛/_epub-src/EPUB/xhtml/Chapter5_1`) - 结论依据:以上原文说明本卡的机制或取舍;正文中的边界判断为读者归纳。 - 原始内容:不仅如此,该聊天机器人还经常会犯事实错误。开发人员决定降低系统的谨慎水平,而这会导致它拒绝回答那些它能够正确回答的问题。他们不希望它说“我不知道”,所以对其进行了调整,以便让它听起来更权威,尽管这意味着聊天机器人在某些时候会胡说八道。