知识卡片
语境化嵌入
静态词向量给同一个词固定表示,语言模型生成的上下文化嵌入会随句子改变,让同一个 token 在不同语境中拥有不同向量。发散:NER、问答和分类能提升,靠的是表示随上下文重新定位。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
原书出处
参考来源
《Hands-On Large Language Models 动手操作大型语言模型》第2章《Chapter 2. Tokens and Embeddings 第二章. 标记和嵌入》