← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9864.d · 生成模型:Hunyuan

GPT-2新闻生成流程

理解等级:中级

直接运行预训练 GPT-2 的最简单方式是给它一个起始词、让它自由续写。实现上先用 GPT2Tokenizer 把提示编码成 tokens_tensor,再用 GPT2LMHeadModel 加载本地模型并切到 eval 模式;随后循环前向得到预测分布,经 top-k 采样出一个词,拼回文本继续喂给模型。循环次数设为 100,一旦出现 <|endoftext|> 结束标志就停止。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第15章 用GPT-2生成文本 · 查看原书依据

      想要直接运行一个预训练好的GPT-2模型,最简单的方法是让它自由工作,即随机生成文本。换句话说,在开始时,我们给它一点提示,即一个预定好的起始单词,然后让它自行地随机生成后续的文本。

    参考来源

    - 位置:《深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)》第15章 用GPT-2生成文本(源文件:extracted/深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)/_epub-src/OEBPS/Text/Chapter19_0002.xhtml) - 结论依据:15.2.2 节给出模型下载方式、GPT2LMHeadModel 加载与 100 次循环生成代码,并展示生成结果。 - 原始内容:想要直接运行一个预训练好的GPT-2模型,最简单的方法是让它自由工作,即随机生成文本。换句话说,在开始时,我们给它一点提示,即一个预定好的起始单词,然后让它自行地随机生成后续的文本。