知识卡片
可解释模型的三个特征
内容
一个真正”可解释”的模型通常具备三个特征：公平性（能明确区分主次影响因素，客观解释不同个体的预测结果差异，不掩盖偏见）、可靠性（同分布的相似输入总能得到一致的评估结果，可以据此下明确的业务结论）、透明性（使用者能验证任意数据点上的模型表现，判断预测是否可信）。三者共同决定了模型能不能真正被业务方信任并用来做决策，而不只是”看起来准”。
参考来源
- 位置：《数据科学工程实践》第11章《机器学习模型可解释性》"11.1.2 模型可解释的必要性"一节（源文件：_epub-src/OEBPS/Text/part0061.xhtml）
- 结论依据：原文明确"可解释模型通常具有以下3个特征：公平性……模型能够明确区分主次影响因素，并且客观解释不同个体的预测结果。可靠性……在数据服从同一分布的情况下，对不同的输入数据产出相同的模型评估结果……透明性……使用者能够验证任何数据点的结果以及评估模型在该点的效果"。
- 原始内容：可解释模型通常具有以下3个特征。公平性。模型会确保预测的过程是公平的，模型能够明确区分主次影响因素，并且客观解释不同个体的预测结果。可靠性。模型能够解释决策缘由，并且确保在数据服从同一分布的情况下，对不同的输入数据产出相同的模型评估结果，数据分析师可以针对该结果给出明确的业务结论。透明性。模型的透明性决定了使用者和决策者的信任度，使用者能够验证任何数据点的结果以及评估模型在该点的效果。