知识卡片
子词是一种折中
词级 token 语义完整但词表膨胀,字符级泛化强但序列太长,子词在词表规模和未知词处理之间折中。BPE、WordPiece、SentencePiece 都在用统计规律寻找可复用片段。发散:多语言和代码场景尤其依赖这种折中。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
原书出处
参考来源
《Hands-On Large Language Models 动手操作大型语言模型》第2章《Chapter 2. Tokens and Embeddings 第二章. 标记和嵌入》