知识卡片
分层评估可平衡成本与信号质量
同一标准可以采用不同层级的测量:低成本方法覆盖全部结果,较昂贵裁判或专家检查子样本。设计时需明确各层测什么、如何抽样,以及哪些高风险错误不能靠低覆盖抽样保证发现。生产环境可得证据与离线参考数据也应分别规划。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 评估AI系统
原书出处 · 1 处
- · 查看原书依据
成本较低的分类器,对全部数据提供粗略的信号,同时使用成本较高的AI裁判对1%的数据提供高质量的信号。这种方式能在保持成本可控的同时,让你对应用的表现有一定的信心。
参考来源
- 位置:《AI工程:大模型应用开发实战》第4章《评估AI系统》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/AI工程:大模型应用开发实战/_epub-src/EPUB/xhtml/Section012.xhtml)
- 结论依据:原文定义、条件、机制或比较支持上述说明,案例数据限于原书语境。
- 原始内容:成本较低的分类器,对全部数据提供粗略的信号,同时使用成本较高的AI裁判对1%的数据提供高质量的信号。这种方式能在保持成本可控的同时,让你对应用的表现有一定的信心。