知识卡片
GPT-2新闻生成流程
直接运行预训练 GPT-2 的最简单方式是给它一个起始词、让它自由续写。实现上先用 GPT2Tokenizer 把提示编码成 tokens_tensor,再用 GPT2LMHeadModel 加载本地模型并切到 eval 模式;随后循环前向得到预测分布,经 top-k 采样出一个词,拼回文本继续喂给模型。循环次数设为 100,一旦出现 <|endoftext|> 结束标志就停止。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第15章 用GPT-2生成文本 · 查看原书依据
想要直接运行一个预训练好的GPT-2模型,最简单的方法是让它自由工作,即随机生成文本。换句话说,在开始时,我们给它一点提示,即一个预定好的起始单词,然后让它自行地随机生成后续的文本。
参考来源
- 位置:《深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)》第15章 用GPT-2生成文本(源文件:extracted/深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)/_epub-src/OEBPS/Text/Chapter19_0002.xhtml)
- 结论依据:15.2.2 节给出模型下载方式、GPT2LMHeadModel 加载与 100 次循环生成代码,并展示生成结果。
- 原始内容:想要直接运行一个预训练好的GPT-2模型,最简单的方法是让它自由工作,即随机生成文本。换句话说,在开始时,我们给它一点提示,即一个预定好的起始单词,然后让它自行地随机生成后续的文本。