知识卡片
AutoRec单隐层网络结构
AutoRec的网络是一个输入、单隐层、输出的三层结构:输入是m维的物品评分向量,中间是k维隐层且k远小于m,输出层还原出m维评分向量。隐层维度被刻意压得更小,迫使网络学到评分数据的主要模式而非逐维记忆。V和W分别是从输入到隐层、从隐层到输出的参数矩阵,配合激活函数完成重建;为防止过拟合还要加L2正则。训练用标准梯度反向传播即可,因为这就是一个普通三层网络。按输入是物品向量还是用户向量,又分I-AutoRec与U-AutoRec,后者推断一次即可得到某用户的全部评分,但受用户向量稀疏性拖累。
结构图:
flowchart LR
IN[输入 r 物品评分向量 m维] --> H[单隐层 k维 k远小于m]
H --> OUT[输出层 重建评分向量]
OUT --> PRED[评分预估与排序]
VW[参数矩阵 V 与 W] -.参数.-> H
L2[L2正则] -.防过拟合.-> OUT
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第3章 浪潮之巅——深度学习在推荐系统中的应用 · 查看原书依据
AutoRec使用单隐层神经网络的结构来解决构建重建函数的问题。从模型的结构图(如图 3-2 所示)中可以看出,网络的输入层是物品的评分向量 r,输出层是一个多分类层。图中蓝色的神经元代表模型的k维单隐层,其中k<<m。
参考来源
- 位置:《深度学习推荐系统》第3章 浪潮之巅——深度学习在推荐系统中的应用(源文件:extracted/深度学习推荐系统/_epub-src/text/part0007_split_002.html)
- 结论依据:原文给出单隐层、k远小于m、V/W参数矩阵与L2正则,并比较了I-AutoRec与U-AutoRec的优劣。
- 原始内容:AutoRec使用单隐层神经网络的结构来解决构建重建函数的问题。从模型的结构图(如图 3-2 所示)中可以看出,网络的输入层是物品的评分向量 r,输出层是一个多分类层。图中蓝色的神经元代表模型的k维单隐层,其中k<<m。