← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 6473.d.4.d.2.b · 生成模型:未记录

生成流畅不等于事实可靠

理解等级:中级

语言模型按上下文生成文本,可能给出语法通顺但不真实的事实或链接。对可核实的事实、引用和时效信息,应检查可靠来源及原始内容;输出是否使用检索工具,也需要根据该次实际运行判断。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • ChatGPT 19.2 对ChatGPT的误解 · 查看原书依据

      另一个常见的误解是,ChatGPT的回答是网络搜索的结果,如图19.2 所示.他们觉得ChatGPT回答问题的流程如下:问它什么是Diffusion Model,ChatGPT就会去网络上直接搜索有关Diffusion Model的文章,从这些文章中整理、重组给我们一个答案,所以它的回答也许就是从网络上抄来的句子.但是,如果去网络上搜索ChatGPT提供的答案,就会发现,在网络上找不到一模一样的原文,甚至ChatGPT常常给出我们从未见过的答案.此外,如果要求ChatGPT输出几个网址,ChatGPT输出的网址很可能格式没有问题,却不真实存在. 也就是说,ChatGPT并没有去网络上搜索答案,也没有把网络上的答案摘抄过来,它回答的答案都是模型自己生成的.事实上,对于这个误解,OpenAI官方也澄清过. 有人会问,为什么ChatGPT会给出一些错误的答案呢?它给的答案到底能不能相信呢?官方给出的解释是,ChatGPT是没有联网的,它给出的答案并不是从网络上搜索得到的.官方还给了一些补充,首先,因为不是从网络上搜索得到的答案,所以并不能保证答案是正确的. 其次,对于2021年以后的事情,ChatGPT是不知道的. 所以官方建议,ChatGPT的回答不能尽信,我们需要自行核实ChatGPT给出的答案.

    参考来源

    - 位置:《深度学习详解》第19章《ChatGPT》19.2 对ChatGPT的误解(来源项目 book-source:`extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter19.xhtml`) - 结论依据:原书区分预训练和推理,并讨论人工反馈、事实错误与模型编辑;产品细节依出版时背景,未作为现状。 - 原始内容:另一个常见的误解是,ChatGPT的回答是网络搜索的结果,如图19.2 所示.他们觉得ChatGPT回答问题的流程如下:问它什么是Diffusion Model,ChatGPT就会去网络上直接搜索有关Diffusion Model的文章,从这些文章中整理、重组给我们一个答案,所以它的回答也许就是从网络上抄来的句子.但是,如果去网络上搜索ChatGPT提供的答案,就会发现,在网络上找不到一模一样的原文,甚至ChatGPT常常给出我们从未见过的答案.此外,如果要求ChatGPT输出几个网址,ChatGPT输出的网址很可能格式没有问题,却不真实存在. 也就是说,ChatGPT并没有去网络上搜索答案,也没有把网络上的答案摘抄过来,它回答的答案都是模型自己生成的.事实上,对于这个误解,OpenAI官方也澄清过. 有人会问,为什么ChatGPT会给出一些错误的答案呢?它给的答案到底能不能相信呢?官方给出的解释是,ChatGPT是没有联网的,它给出的答案并不是从网络上搜索得到的.官方还给了一些补充,首先,因为不是从网络上搜索得到的答案,所以并不能保证答案是正确的. 其次,对于2021年以后的事情,ChatGPT是不知道的. 所以官方建议,ChatGPT的回答不能尽信,我们需要自行核实ChatGPT给出的答案.