← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 6473.d.3.c.2.e.1 · 生成模型:未记录

领域偏移影响部署表现

理解等级:中级

训练来源领域与部署目标领域的分布可能不同,即使源领域测试准确率很高,目标领域性能也可能下降。变化可以涉及输入分布、标签比例或输入与标签关系;验证应尽量覆盖真实部署条件,而不是只依赖同分布基准。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 迁移学习 13.1 领域偏移 · 查看原书依据

      如图13.1所示,数字识别这种简单的问题,在基准数据集 MNIST [1]上能做到 99.91% 的准确率[2].但是当测试数据和训练数据的分布不一样时,就会导致一些问题.假设训练时数字是黑白的,但测试时数字是彩色的.常见的误区是,虽然数字的颜色不同,但在模型看来,它们的形状是一样的. 也就是说,既然模型能识别出黑白图片中的数字,则应该也能识别出彩色图片中的数字.但实际上,如果使用黑白的数字图像训练一个模型,然后直接应用到彩色的数字图像上,准确率就会非常低.MNIST 数据集中的数字是黑白的,MNIST-M 数据集[3] 中的数字是彩色的,如果在 MNIST 数据集上训练,并在 MNIST-M 数据集上测试,则准确率只有 52.25%[4].一旦训练数据和测试数据分布不同,在训练数据上训练出来的模型,在测试数据上就可能效果不佳,这称为领域偏移.

    参考来源

    - 位置:《深度学习详解》第13章《迁移学习》13.1 领域偏移(来源项目 book-source:`extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter13.xhtml`) - 结论依据:原文介绍领域差异、对抗特征训练及目标类别和数据可用性限制。 - 原始内容:如图13.1所示,数字识别这种简单的问题,在基准数据集 MNIST [1]上能做到 99.91% 的准确率[2].但是当测试数据和训练数据的分布不一样时,就会导致一些问题.假设训练时数字是黑白的,但测试时数字是彩色的.常见的误区是,虽然数字的颜色不同,但在模型看来,它们的形状是一样的. 也就是说,既然模型能识别出黑白图片中的数字,则应该也能识别出彩色图片中的数字.但实际上,如果使用黑白的数字图像训练一个模型,然后直接应用到彩色的数字图像上,准确率就会非常低.MNIST 数据集中的数字是黑白的,MNIST-M 数据集[3] 中的数字是彩色的,如果在 MNIST 数据集上训练,并在 MNIST-M 数据集上测试,则准确率只有 52.25%[4].一旦训练数据和测试数据分布不同,在训练数据上训练出来的模型,在测试数据上就可能效果不佳,这称为领域偏移.