知识卡片
反转输入缩短部分路径
在基本 seq2seq 中反转输入顺序,可让某些源词与对应的早期输出在展开网络中的路径变短,从而可能改善梯度传播。书中加法实验得到改善,但效果依赖任务,平均距离并不因此必然缩短。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 基于 RNN 生成文本 · 查看原书依据
因为通过反转,输入语句的开始部分和对应的转换后的单词之间的距离变近
参考来源
- 位置:《深度学习进阶:自然语言处理》第7章《基于 RNN 生成文本》(来源项目 book-source:extracted/深度学习进阶:自然语言处理/_epub-src/text/part0012_split_004.html)
- 结论依据:正文说明相应方法、实现和条件。
- 原始内容:因为通过反转,输入语句的开始部分和对应的转换后的单词之间的距离变近