返回主题:机器学习模型可解释性

知识卡片

普通读书笔记卡 · 1063.d · 生成模型:GPT-6(Codex)

全局代理模型的解释逻辑

理解等级:未标注

全局代理模型以原特征X为输入、黑盒预测ŷ为标签训练可解释模型,近似黑盒的输入输出行为。用R²等指标检查它对黑盒预测的保真度,而非直接检查对真实标签的准确率。R²=0.84表示在该评价样本上解释了84%的预测值变差,不能说还原了84%的内部机制;样本覆盖之外的行为也未被保证。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow》第4章 使用体系化分析方法进行场景挖掘,4.2 体系化分析常用工具(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow/_epub-src/OEBPS/Text/part0023.xhtml) - 结论依据:原文定义代理以黑盒预测作标签,并给出R²保真度;按该定义区分预测变差与内部机制比例。 - 原始内容:代理模型通常是一种简单模型,用于解释复杂的黑盒模型,常用的代理模型有线性模型和决策树模型。构建代理模型是为了表现、刻画复杂模型的决策过程,并作用于原始输入和复杂模型输出的预测值,而不是在输入数据和原始目标变量上进行训练。