知识卡片
可解释性要拿性能换
能排序的模型只给出概率,能解释的模型才告诉人该改什么。预测员工离职时,一个说得出“因为加班多、薪资低于同岗”的模型可以让人力资源部调整制度;只会给分数的黑箱最多支持一次性的挽留谈话。代价有两层:明显的一层是准确率,通常最准的模型(神经网络、大型集成)最难解释,决策树这类可解释模型往往更差;隐蔽的一层是解释的真实性,能说会道的“挽留专家”给出的理由听起来合理,却没有任何机制保证它对应此人实际的判断过程,事后编造的解释与真实机制无法区分。所以取舍看后果:涉及法律、人身自由或不可逆机会的决定,通常值得用性能换解释;只影响一次点击的排序,用最准的模型即可。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第26章 数据伦理 · 查看原书依据
另一位数据科学家坚持不让你使用神经网络模型,因为只有另外两个模型可以解释它们的预测,并且只有对预测的解释才能帮助人力资源部实现长久的改变(与一次性干预相反)。
参考来源
- 位置:《数据科学入门(第2版)》第26章 数据伦理(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0030.xhtml)
- 结论依据:原文这一段直接给出本卡的核心判断:「另一位数据科学家坚持不让你使用神经网络模型,因为只有另外两个模型可以解释它们的预……」
- 原始内容:另一位数据科学家坚持不让你使用神经网络模型,因为只有另外两个模型可以解释它们的预测,并且只有对预测的解释才能帮助人力资源部实现长久的改变(与一次性干预相反)。