知识卡片
可变AI用量需要归因
开放式输入输出使成本难以用固定操作次数估算,可在调用前后记录租户、模型及输入输出用量,关联供应商账单与自身计费。计量维度和费用规则会随产品变化,不能把书中token计价描述当作所有模型的永恒收费方式。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- GenAI and Multi-Tenancy · 查看原书依据
also intercept the output, evaluating its complexity and publishing a second metering message to the billing service (step 6).
参考来源
- 位置:《Building Multi-Tenant SaaS Architectures》第16章《GenAI and Multi-Tenancy》(来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/Building Multi-Tenant SaaS Architectures/_epub-src/OEBPS/ch16.html)
- 结论依据:原文具体说明开放式输入输出使成本难以用固定操作次数估算,可在调用前后记录租户、模型及输入输出用量,关联供应商账单与自身计费;本卡据此归纳机制及适用边界。
- 原始内容:also intercept the output, evaluating its complexity and publishing a second metering message to the billing service (step 6).