知识卡片
AI套餐组合能力与限额
套餐可区分调用预算、吞吐和模型选择,也可对租户资料增强能力作不同包装。昂贵模型不必然在所有任务上更好;应验证质量与成本,并确认授权器或限流层能观察实际所需用量,不能把示意网关流程直接当作可用实现。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- GenAI and Multi-Tenancy · 查看原书依据
with their own nuances), you could choose to offer access to different LLMs at different tiers or price points, so a basic tier tenant could get the lower cost LLM, while a premium tier tenant may have access to a presumably “better” and more costly LLM.
参考来源
- 位置:《Building Multi-Tenant SaaS Architectures》第16章《GenAI and Multi-Tenancy》(来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/Building Multi-Tenant SaaS Architectures/_epub-src/OEBPS/ch16.html)
- 结论依据:原文具体说明套餐可区分调用预算、吞吐和模型选择,也可对租户资料增强能力作不同包装;本卡据此归纳机制及适用边界。
- 原始内容:with their own nuances), you could choose to offer access to different LLMs at different tiers or price points, so a basic tier tenant could get the lower cost LLM, while a premium tier tenant may have access to a presumably “better” and more costly LLM.