自动化机器学习与可解释性人工智能

机器学习落地要经过问题设定、数据收集加工、模型设计、训练、评价、上线运用一整条链路，其中问题设定和数据收集必须由人来做，但数据加工、模型设计、基于训练数据反复调参这几个环节存在大量重复劳动，自动化机器学习就是把这部分工作交给计算机去高效地尝试和调整，让分析师从繁琐调参中解放出来。但精度提升带来了另一个代价：[[神经网络损失函数与误差反向传播法|神经网络]]、深度学习即使跑出好结果，人往往也说不清楚”为什么”——[[决策树不纯度与信息增益|决策树]]至少还能说清每一步判断依据，而黑箱模型的结果没法向客户和领导解释清楚，在商业场景里说服力大打折扣。可解释性人工智能正是为了填补这个缺口，研究如何把哪些特征对预测结果起了关键作用可视化出来，或者训练一个额外的模型专门用来”翻译”黑箱模型的判断逻辑给人听。这提示一个现实约束：模型精度和可解释性往往是两个需要分别投入、单独权衡的目标，不会随着精度提升自动兼得。