← 返回卡片

原书出处

深度学习详解

05 循环神经网络 5.4.2 双向循环神经网络

核验版本的摘录快照 · 导入于 2026-11-21T12:46:32.558Z

循环神经网络还可以是双向. 为RNN输入一个句子,RNN将从句首一直读到句尾.如图5.11 所示,假设句子里的每一个词用表示,可以先读,再读和.但读取方向也可以反过来,先读,再读和.我们在训练一个正向的循环神经网络的同时,也可以训练一个逆向的循环神经网络,然后把这两个循环神经网络的隐藏层拿出来,接给一个输出层,得到最后的. 以此类推,产生和.双向循环神经网络(Bidirectional Recurrent Neural Network,Bi-RNN)的优点是,神经元在产生输出的时候,看的范围是比较广的.如果只有正向的循环神经网络,那么在产生的时候,神经元就只看过从到的输入.但双向循环神经网络在产生的时候,神经元不只看过从到的输入,也看到从句尾到的输入,相当于看过整个输入序列.假设考虑的是槽填充,网络就等于在看了整个句子后,才决定每一个词的槽,这比只看句子的一半可以得到更好的性能.

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter05.xhtml

EPUB SHA-256:35d2d4b7de742e0ce7756e7fb57c534014bf33cecdf0483a75e23cb7446cb7dc