知识卡片
任务完成度比单轮好看更接近价值
单轮评估看一次输出质量,任务评估看用户目标是否实现以及所需轮数。多轮调试中每次回答看似合理,不代表最终修好了问题。需要事先定义任务边界、成功条件与交互成本,避免把对话延长误判为效果更好。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 评估AI系统
原书出处 · 1 处
- · 查看原书依据
基于任务的评估则关注系统是否完成了任务。应用是否帮助你修复了错误?完成任务需要多少个轮次?系统能在两个轮次内解决问题,还是需要20个轮次,两者的体验差别巨大。
参考来源
- 位置:《AI工程:大模型应用开发实战》第4章《评估AI系统》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/AI工程:大模型应用开发实战/_epub-src/EPUB/xhtml/Section012.xhtml)
- 结论依据:原文定义、条件、机制或比较支持上述说明,案例数据限于原书语境。
- 原始内容:基于任务的评估则关注系统是否完成了任务。应用是否帮助你修复了错误?完成任务需要多少个轮次?系统能在两个轮次内解决问题,还是需要20个轮次,两者的体验差别巨大。