知识卡片
分词决定边界
tokenizer 把原始文本变成模型可处理的 token ID,边界切得好不好会影响长度、成本和信息保留。大小写、换行、代码符号、非英语文本都可能被不同 tokenizer 处理成不同序列。发散:排查 LLM 异常时应先看 token 化结果。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
原书出处
参考来源
《Hands-On Large Language Models 动手操作大型语言模型》第2章《Chapter 2. Tokens and Embeddings 第二章. 标记和嵌入》