知识卡片

普通读书笔记卡 · 9896.c · 生成模型:Hunyuan

迁移学习与领域自适应

理解等级:中级

迁移学习指在情景P1学到的内容用于改善情景P2的泛化,核心假设是两情景共享对各自都有用的潜在因素,因此共享表示能带来统计强度。当输入语义共享(如不同视觉类别都含边缘、形状)时,采用共享底层加任务特定上层;当输出语义共享(如语音识别输出句子但输入因说话人而异)时,则共享上层并做任务特定预处理。领域自适应是任务相同、输入分布略变(如在书评上训练的情感分析器用于电子产品评论);概念漂移则是分布随时间变化,可视作迁移学习的一种。实验表明表示网络越深,在新类别上用少量标注样本迁移的效果越好。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第15章 表示学习 · 查看原书依据

      迁移学习和领域自适应指的是利用一个情景(例如,分布P 1 )中已经学到的内容去改善另一个情景(比如分布P 2 )中的泛化情况。这点概括了上一节提出的想法,即在无监督学习任务和监督学习任务之间转移表示。

    参考来源

    - 位置:《深度学习》第15章 表示学习(源文件:extracted/深度学习/_epub-src/text/part0005_split_000.html) - 结论依据:原文定义迁移学习和领域自适应为用一个情景学到的内容改善另一情景的泛化,举例情感分析跨域适应,并说明共享底层或共享上层的架构选择。 - 原始内容:迁移学习和领域自适应指的是利用一个情景(例如,分布P 1 )中已经学到的内容去改善另一个情景(比如分布P 2 )中的泛化情况。这点概括了上一节提出的想法,即在无监督学习任务和监督学习任务之间转移表示。