知识卡片
自编码器用重构学习
编码器把样本映射为较短向量,解码器用它重构输入。训练只需能计算原值与重构值的误差。瓶颈限制可保留的信息,非线性编码能学到PCA不能直接表达的关系,但重构好不保证低维邻域可信。
两者都可使用重构误差解释信息保留。参见 [[最大投影等价最小重构]]。
结构图:
flowchart LR
X[原始输入] --> E[编码器]
E --> Z[低维表示]
Z --> D[解码器]
D --> Y[重构结果]
X --> L[重构误差]
Y --> L
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 神经网络基础 前馈网络的学习目标 · 查看原书依据
的损失函数为最小化重构误差,即原始输入数据与重构后的数据越相似越好。通过这个过程,自编码器能够学习到输入数据的有效低维表示,这些表
参考来源
- 位置:《机器学习基础》第12章,12.2 神经网络(book-source:extracted/机器学习基础/_epub-src/EPUB/xhtml/chapter80.xhtml)
- 结论依据:原文借「原始输入数据与重构后的数据越相似越好」处的论述给出本卡所解释的关系或做法。
- 原始内容:的损失函数为最小化重构误差,即原始输入数据与重构后的数据越相似越好。通过这个过程,自编码器能够学习到输入数据的有效低维表示,这些表