知识卡片
可解释模型的纠错双重作用
内容
模型可解释性的价值之一是纠错，而且能纠两种错：一是纠正人的错——可解释性给了数据工作者挑战自己惯性直觉的证据；二是纠正模型本身的错——通过解释一次错误预测背后的原因，可以定位模型学到的偏差在哪里，进而针对性地修正训练方式，而不是盲目调参。
参考来源
- 位置：《数据科学工程实践》第11章《机器学习模型可解释性》"11.1.2 模型可解释的必要性"一节（源文件：_epub-src/OEBPS/Text/part0061.xhtml）
- 结论依据：原文明确"纠错的对象可以分为两种：一种是自然人，即数据工作者；另一种是训练出的模型本身。对于前者而言，可解释性使得模型具备了挑战惯性思维下直觉决策的有力工具；对于后者而言，可解释性是一种检测机器学习模型中偏差的调试工具，对错误预测的解释有助于理解错误的原因，进而训练出正确的模型"。
- 原始内容：可解释模型有一个重要的作用就是纠错。纠错的对象可以分为两种：一种是自然人，即数据工作者；另一种是训练出的模型本身。对于前者而言，可解释性使得模型具备了挑战惯性思维下直觉决策的有力工具；对于后者而言，可解释性是一种检测机器学习模型中偏差的调试工具，对错误预测的解释有助于理解错误的原因，进而训练出正确的模型。