原书出处
深度学习推荐系统
03 第3章 浪潮之巅——深度学习在推荐系统中的应用
时,往往存在严重的梯度消失现象。梯度消失现象是指在梯度反向传播过程中,越靠近输入端,梯度的幅度越小,参数收敛的速度越慢。
为了解决这个问题,残差单元使用了 ReLU 激活函数取代原来的sigmoid 激活函数。此外,输入向量短路相当于直接把梯度毫无变化地传递到下一层,这也使残差网络的收敛速度更快。
Scoring层:Scoring层作为输出层,就是为了拟合优化目标而存在的。对于CTR 预估这类二分类问题,Scori
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/深度学习推荐系统/_epub-src/text/part0007_split_003.html
EPUB SHA-256:2cd732704a51828ea5c0ec7decb8861b35f44e5e16d9af11fbc68f7084f63382