知识卡片
可解释模型的三个特征
模型解释可以支持检查公平性、可靠性和透明性:说明哪些因素推动预测,帮助发现偏差,并让使用者检验结果。但“可解释”不等于已经公平、可靠或正确。一个透明模型同样可能使用有偏标签或不适用的数据;每项要求都需要独立证据和业务标准,解释只提供可检查的入口。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第11章 机器学习模型可解释性 11.1 模型的可解释性 · 查看原书依据
可解释模型有一个重要的作用就是纠错。纠错的对象可以分为两种:一种是自然人,即数据工作者;另一种是训练出的模型本身。对于前者而言,可解释性使得模型具备了挑战惯性思维下直觉决策的有力工具;对于后者而言,可解释性是一种检测机器学习模型中偏差的调试工具,对错误预测的解释有助于理解错误的原因,进而训练出正确的模型。 可解释模型通常具有以下3个特征。
参考来源
- 位置:《数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow》第11章 机器学习模型可解释性,11.1 模型的可解释性(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow/_epub-src/OEBPS/Text/part0061.xhtml)
- 结论依据:原文把公平、可靠、透明列为可解释模型特征;本卡将其限定为解释可支持检查的目标,不冒称具备解释性即已满足。
- 原始内容:可解释模型有一个重要的作用就是纠错。纠错的对象可以分为两种:一种是自然人,即数据工作者;另一种是训练出的模型本身。对于前者而言,可解释性使得模型具备了挑战惯性思维下直觉决策的有力工具;对于后者而言,可解释性是一种检测机器学习模型中偏差的调试工具,对错误预测的解释有助于理解错误的原因,进而训练出正确的模型。 可解释模型通常具有以下3个特征。