原书出处
AI工程:大模型应用开发实战
围绕这些故障设计指标至关重要。如果你不希望应用产生幻觉,那么应设计能够检测幻觉的指标,比如检测应用的输出能否从上下文中推导出来。如果你不希望应用耗尽API预算,则需追踪与API成本相关的指标,例如每个请求的输入/输出token数、缓存成本和缓存命中率
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/AI工程:大模型应用开发实战/_epub-src/EPUB/xhtml/Section018.xhtml
EPUB SHA-256:88cc0279def68dead5c5d18f8e4cac1378f2a41584ffdd2bb425a4a28b5280af