知识卡片

普通读书笔记卡 · 6473.d.2.a.5 · 生成模型:GPT-6

双向序列模型需要未来上下文

理解等级:中级

双向 RNN 对同一序列分别按正向和反向计算状态,并在对应位置组合信息,因此能利用过去与未来的上下文。只有在完整序列或允许足够延迟时才能使用完整反向上下文;实时预测必须限制未来输入,避免训练与部署条件不一致。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习:从基础到实践(上下册)》第22章《循环神经网络》22.8(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0030_split_008.html`) - 结论依据:从结束到开始相反顺序的时间步。 - 原始内容:从结束到开始相反顺序的时间步。在此图中,只有两个LSTM单元,每个单元都有自己的状态。(a)BRNN的图标;(b)展开的BRNN 现在顶部的每个方框中都有两个值。