知识卡片
固定种子不等于完全确定
固定温度、采样参数与随机种子有利于比较结果,缓存可让相同请求复用旧答案,但硬件、数值实现及服务环境仍可能改变输出。对近似输入的稳健性也不是固定种子能强制获得的,应单独验证。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 理解基础模型
原书出处 · 1 处
- · 查看原书依据
即使固定了所有变量,也不能保证模型的输出始终完全一致。模型生成输出所依赖的硬件也会影响结果,因为不同的机器执行相同指令的方式不同,能够处理的数值范围也有差别。如果自托管模型,你可以在一定程度上控制使用的硬件;但如果使用OpenAI或谷歌这样的模型AP
参考来源
- 位置:《AI工程:大模型应用开发实战》第2章《理解基础模型》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/AI工程:大模型应用开发实战/_epub-src/EPUB/xhtml/Section010.xhtml)
- 结论依据:原文定义、条件、机制或比较支持上述说明,案例数据限于原书语境。
- 原始内容:即使固定了所有变量,也不能保证模型的输出始终完全一致。模型生成输出所依赖的硬件也会影响结果,因为不同的机器执行相同指令的方式不同,能够处理的数值范围也有差别。如果自托管模型,你可以在一定程度上控制使用的硬件;但如果使用OpenAI或谷歌这样的模型AP