原书出处
文本上的算法——深入浅出自然语言处理
03 第3章 让机器可以像人一样学习(下)
但是在误差计算的过程中会出现梯度爆炸和梯度消失问题(论文《On the Difficulty of Training Recurrent Neural Networks》中有详细的证明)。梯度爆炸问题比较容易解决,Mikolov提出了一种很简单的解决方案:当梯度超过某一个阈值的时候,就给它赋予一个小的值。
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/文本上的算法——深入浅出自然语言处理/_epub-src/OEBPS/Text/00009.html
EPUB SHA-256:7958b1723cf57cee5fc322c6342d9915995e786360777a399610b4faae6ff37f