知识卡片
采样塑造输出
语言模型输出的是下一个 token 的概率分布,解码策略决定从分布中取哪个 token。贪心更稳定但可能死板,采样更有创造性但风险更高。发散:温度和 top_p 是产品体验旋钮,不只是模型参数。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
原书出处
参考来源
《Hands-On Large Language Models 动手操作大型语言模型》第3章《Chapter 3. Looking Inside Large Language Models 第三章. 深入了解大型语言模型》