← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9850.a · 生成模型:Hunyuan

序列问题一般步骤

理解等级:初级

处理序列问题的标准流程是:先清洗文本(去除特殊符号、格式转换、过滤停用词),再做分词和索引化,把标识符交给词嵌入或预训练模型转成向量,最后送入下游任务。整条链条中词嵌入与预训练模型是关键一环,它们的质量直接决定下游任务的上限。word2vec、Transformer、BERT、ALBERT 等方法正是在这一环节不断刷新 NLP、语音识别、推荐与搜索排序的性能纪录。这也解释了为什么本章要先讲表示学习、再讲具体应用。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第1章 万物皆可嵌入 · 查看原书依据

      拿到一份语言材料后,不管是中文还是英文,首先需要做一些必要的清理工作,如清理特殊符号、格式转换、过滤停用词等,然后进行分词、索引化,再利用相关模型或算法把单词、词等标识符向量化,最后输出给下游任务

    参考来源

    - 位置:《深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)》第1章 万物皆可嵌入(源文件:extracted/深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)/_epub-src/OEBPS/Text/Chapter4_0001.xhtml) - 结论依据:原文以提炼文章摘要为例,按“清理—分词—索引化—向量化—下游任务”的顺序说明了完整步骤,并强调词嵌入或预训练模型是其中关键。 - 原始内容:拿到一份语言材料后,不管是中文还是英文,首先需要做一些必要的清理工作,如清理特殊符号、格式转换、过滤停用词等,然后进行分词、索引化,再利用相关模型或算法把单词、词等标识符向量化,最后输出给下游任务