原书出处
深度学习推荐系统
04 第4章 Embedding技术在推荐系统中的应用
10000 个词的预测误差(prediction error)[3],在实际训练过程中几乎无法承受这样巨大的计算量。
为了减轻 Word2vec 的训练负担,往往采用负采样(Negative Sampling)的方法进行训练。相比原来需要计算所有字典中所有词的预测误差,负采样方法只需要对采样出的几个负样本计算预测误差。在此情况下,Word2vec 模型的优化目标从一个多分类问题退化成了一个近似二分类问题
[4],如(式4-3)所示。 其中是输出词向量(及正样本),h是隐层向量,Wneg是负样本集合,是负样本词向量。由于负样
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/深度学习推荐系统/_epub-src/text/part0008_split_002.html
EPUB SHA-256:2cd732704a51828ea5c0ec7decb8861b35f44e5e16d9af11fbc68f7084f63382