知识卡片
词袋损失语义
词袋表示只统计词是否出现或出现多少次,抹掉语序、上下文和词义关系。它适合简单检索或粗分类,却难以表达“银行”和“河岸”这类语境差异。发散:凡是任务需要理解意图,就应优先考虑[[语境化嵌入]]而不是纯词频。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
原书出处
参考来源
《Hands-On Large Language Models 动手操作大型语言模型》第1章《Chapter 1. An Introduction to Large Language Models 第一章. 大型语言模型的介绍》