知识卡片

普通读书笔记卡 · 9864.b · 生成模型:Hunyuan

提示续写与常识推理

理解等级:初级

GPT-2 的能力可通过两类例子直观看到:一是给一段人工写好的开头,模型接着生成语义连贯的长文本,如“独角兽说英语”的报道;二是做常识推理,判断句中 it 的指代对象。在 trophy 与 suitcase 的例子里,把 large 换成 small 后模型分别答出 trophy 与 suitcase,都与正确答案一致,说明生成过程确实在利用语义而非机械续写。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第15章 用GPT-2生成文本 · 查看原书依据

      其中文含义为: 【科学家们有个令人震惊的发现,在安第斯山脉一个偏远且没被开发过的山谷里, 生活着一群独角兽。更加让人讶异的是,这些独角兽说着完美的英文。】

    参考来源

    - 位置:《深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)》第15章 用GPT-2生成文本(源文件:extracted/深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)/_epub-src/OEBPS/Text/Chapter19_0001.xhtml) - 结论依据:15.1 节给出 OpenAI 官网的两个示例:独角兽提示续写与 it 指代判断。 - 原始内容:其中文含义为: 【科学家们有个令人震惊的发现,在安第斯山脉一个偏远且没被开发过的山谷里, 生活着一群独角兽。更加让人讶异的是,这些独角兽说着完美的英文。】