知识卡片
提示续写与常识推理
GPT-2 的能力可通过两类例子直观看到:一是给一段人工写好的开头,模型接着生成语义连贯的长文本,如“独角兽说英语”的报道;二是做常识推理,判断句中 it 的指代对象。在 trophy 与 suitcase 的例子里,把 large 换成 small 后模型分别答出 trophy 与 suitcase,都与正确答案一致,说明生成过程确实在利用语义而非机械续写。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第15章 用GPT-2生成文本 · 查看原书依据
其中文含义为: 【科学家们有个令人震惊的发现,在安第斯山脉一个偏远且没被开发过的山谷里, 生活着一群独角兽。更加让人讶异的是,这些独角兽说着完美的英文。】
参考来源
- 位置:《深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)》第15章 用GPT-2生成文本(源文件:extracted/深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)/_epub-src/OEBPS/Text/Chapter19_0001.xhtml)
- 结论依据:15.1 节给出 OpenAI 官网的两个示例:独角兽提示续写与 it 指代判断。
- 原始内容:其中文含义为: 【科学家们有个令人震惊的发现,在安第斯山脉一个偏远且没被开发过的山谷里, 生活着一群独角兽。更加让人讶异的是,这些独角兽说着完美的英文。】