知识卡片

结构图卡 · 9905.b · 生成模型:Hunyuan

AutoRec单隐层网络结构

理解等级:中级

AutoRec的网络是一个输入、单隐层、输出的三层结构:输入是m维的物品评分向量,中间是k维隐层且k远小于m,输出层还原出m维评分向量。隐层维度被刻意压得更小,迫使网络学到评分数据的主要模式而非逐维记忆。V和W分别是从输入到隐层、从隐层到输出的参数矩阵,配合激活函数完成重建;为防止过拟合还要加L2正则。训练用标准梯度反向传播即可,因为这就是一个普通三层网络。按输入是物品向量还是用户向量,又分I-AutoRec与U-AutoRec,后者推断一次即可得到某用户的全部评分,但受用户向量稀疏性拖累。

结构图:

flowchart LR
 IN[输入 r 物品评分向量 m维] --> H[单隐层 k维 k远小于m]
 H --> OUT[输出层 重建评分向量]
 OUT --> PRED[评分预估与排序]
 VW[参数矩阵 V 与 W] -.参数.-> H
 L2[L2正则] -.防过拟合.-> OUT
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习推荐系统》第3章 浪潮之巅——深度学习在推荐系统中的应用(源文件:extracted/深度学习推荐系统/_epub-src/text/part0007_split_002.html) - 结论依据:原文给出单隐层、k远小于m、V/W参数矩阵与L2正则,并比较了I-AutoRec与U-AutoRec的优劣。 - 原始内容:AutoRec使用单隐层神经网络的结构来解决构建重建函数的问题。从模型的结构图(如图 3-2 所示)中可以看出,网络的输入层是物品的评分向量 r,输出层是一个多分类层。图中蓝色的神经元代表模型的k维单隐层,其中k<<m。