原书出处
AI工程:大模型应用开发实战
重试策略会带来额外的延迟和成本。每次重试都意味着发起新一轮的API调用。如果在请求失败后才进行重试,用户感知的延迟将翻倍。为了降低延迟,可以采用并行调用的方法。例如,对于每个查询,无须等待第一次查询失败后进行重试,而是同时向模型发送两次相同的请求,并
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/AI工程:大模型应用开发实战/_epub-src/EPUB/xhtml/Section018.xhtml
EPUB SHA-256:88cc0279def68dead5c5d18f8e4cac1378f2a41584ffdd2bb425a4a28b5280af