知识卡片

普通读书笔记卡 · 6472.a.3.a.2.b.1 · 生成模型:GPT-6

异常要有独立后备

理解等级:高级

罕见但后果严重的情况往往缺乏训练数据,模型可能不知道怎样处理。除了补充异常样本和模拟数据,还应设计不依赖该模型的后备选项,并记录已知支持和不支持的边界;模拟数据也不能保证覆盖未知异常。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • AI发育成熟 · 查看原书依据

      一般来说,机器学习系统在遇到异常与特殊情况时会不知道如何处理。一个设计良好的AI系统有一个不依赖于机器学习系统的后备选项来处理异常情况。

    参考来源

    - 位置:《AI图景:Sora时代的人工智能应用》第9章《AI发育成熟》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/AI图景:Sora时代的人工智能应用 ((美)阿莉莎·辛普森·罗赫韦格)/_epub-src/OEBPS/Text/chapter57.xhtml) - 结论依据:原文中的具体定义、条件或案例支撑上述解释;结论限于该段说明的用途与场景。 - 原始内容:一般来说,机器学习系统在遇到异常与特殊情况时会不知道如何处理。一个设计良好的AI系统有一个不依赖于机器学习系统的后备选项来处理异常情况。