原书出处
文本上的算法——深入浅出自然语言处理
03 第3章 让机器可以像人一样学习(下)
但是这就有一个很明显的缺点:context越大,表示成固定的向量后损失的信息就越多。而事实上,在decoder的时候,完全可以利用state向量和已经知道的context信息,而且并不是所有context信息都有用,只有部分context信息会对下一状态产生影响,这就是attention
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/文本上的算法——深入浅出自然语言处理/_epub-src/OEBPS/Text/00009.html
EPUB SHA-256:7958b1723cf57cee5fc322c6342d9915995e786360777a399610b4faae6ff37f