知识卡片
余弦相似度与Word2Vec
内容
判断两个数据点相似,除了看[[欧几里得距离与曼哈顿距离|距离]]远近,还可以看它们相对原点的方向是否一致——把数据表示成向量后,方向相近(夹角小)即使距离不近,也可能代表同一种”模式”或”比例结构”,这就是余弦相似度的判断依据,常用来比较文章:把单词出现频率当作向量,夹角越小说明用词分布越相似,而不管文章长短(长度差异不影响方向)。要把”含义”也数值化,则要用Word2Vec:用几百维的向量表示每个单词的含义,相近含义的词在向量空间里方向相近,甚至能做加减法运算——”王-男性+女性=女王”这个经典算式说明,词义之间的某些关系可以被编码成向量空间里稳定的位移方向,而不只是孤立的相似度判断。
参考来源
《图解数据科学》第3章《数据处理与充分利用》