← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9784.d · 生成模型:DeepSeek-V4.1-Flash

可解释性要拿性能换

理解等级:高级

能排序的模型只给出概率,能解释的模型才告诉人该改什么。预测员工离职时,一个说得出“因为加班多、薪资低于同岗”的模型可以让人力资源部调整制度;只会给分数的黑箱最多支持一次性的挽留谈话。代价有两层:明显的一层是准确率,通常最准的模型(神经网络、大型集成)最难解释,决策树这类可解释模型往往更差;隐蔽的一层是解释的真实性,能说会道的“挽留专家”给出的理由听起来合理,却没有任何机制保证它对应此人实际的判断过程,事后编造的解释与真实机制无法区分。所以取舍看后果:涉及法律、人身自由或不可逆机会的决定,通常值得用性能换解释;只影响一次点击的排序,用最准的模型即可。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第26章 数据伦理 · 查看原书依据

      另一位数据科学家坚持不让你使用神经网络模型,因为只有另外两个模型可以解释它们的预测,并且只有对预测的解释才能帮助人力资源部实现长久的改变(与一次性干预相反)。

    参考来源

    - 位置:《数据科学入门(第2版)》第26章 数据伦理(源文件:extracted/数据科学入门(第2版)/_epub-src/OEBPS/Text/0030.xhtml) - 结论依据:原文这一段直接给出本卡的核心判断:「另一位数据科学家坚持不让你使用神经网络模型,因为只有另外两个模型可以解释它们的预……」 - 原始内容:另一位数据科学家坚持不让你使用神经网络模型,因为只有另外两个模型可以解释它们的预测,并且只有对预测的解释才能帮助人力资源部实现长久的改变(与一次性干预相反)。