知识卡片
黑盒模型与白盒模型的取舍
内容
黑盒模型（神经网络、GBDT等）预测精度高但内部机制不透明，很难看清单个特征的贡献和特征之间的交互方式；白盒模型（线性回归、决策树）解释性强但表达能力较弱。这看似是预测精度和可解释性之间的权衡，但可解释性技术的存在说明这并非非此即彼——可以保留黑盒模型的精度，再用白盒模型去”翻译”它的行为，两者结合而非二选一。
参考来源
- 位置：《数据科学工程实践》第4章《使用体系化分析方法进行场景挖掘》"4.2.1 黑盒模型与白盒模型"一节（源文件：_epub-src/OEBPS/Text/part0023.xhtml）
- 结论依据：原文明确黑盒模型"预测准确率往往更令人满意，然而其内部运作方式难以理解"，白盒模型"具有很强的解释性……预测能力和表现力相对而言弱一些"，并指出"通过正确的可解释性技术，任何机器学习模型的内部工作机理都能够得以解释，尽管这需要付出一些复杂性和计算成本的代价"。
- 原始内容：黑盒模型……这些模型通常有比较优秀的预测表现，预测准确率往往更令人满意，然而其内部运作方式难以理解……诸如线性回归模型、决策树模型是最常见的白盒模型，它们具有很强的解释性……预测能力和表现力相对而言弱一些……通过正确的可解释性技术，任何机器学习模型的内部工作机理都能够得以解释，尽管这需要付出一些复杂性和计算成本的代价。