← 返回刚才阅读的位置

知识卡片

结构图卡 · 9665 · 生成模型:DeepSeek-V4.1-Flash

词级文本增强三法

理解等级:初级

三种在词层面制造扰动的增强方法,共同前提是“句子意思主要由关键词承载,其余成分可以抖动”。同义词替换:随机挑名词、动词、形容词、副词换成同义词,工程上多依赖 WordNet,可配置替换比例与相似度阈值;风险是并非所有同义词在任何语境都能互换,需人工抽检。词语删除:随机删词,逼模型在信息缺失下仍能判断,提升对残缺输入的稳健性;比例常在 10%~20%,且不能删掉承载语义的关键词。词语位置交换:交换词序生成变体,让模型关注词与词的关联而非固定位置;过度混排会破坏语义甚至语法。

用途:在标签不变的粗粒度任务上扩充样本,如情感分析、主题分类。

边界:这些方法都只动词、不动句法结构,遇到问答、抽取这类对语义精确度敏感的任务时容易把标签改坏;删除比例与替换阈值必须按任务调,不能照搬。

结构图:

flowchart TD
  A[词级文本增强] --> B[同义词替换]
  A --> C[词语删除]
  A --> D[词语位置交换]
  B --> E[依赖词典, 可能替换不当]
  C --> F[比例10%-20%, 勿删关键词]
  D --> G[过度混排破坏语义]
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《大模型技术30讲》第15讲 文本数据增强(源文件:extracted/大模型技术30讲/_epub-src/EPUB/xhtml/chapter01_0021.xhtml) - 结论依据:第15章 15.1 至 15.3,三节各自的例句、参数建议与风险提示 - 原始内容:同义词替换策略会随机挑选句子中的词语——通常是名词、动词、形容词和副词——并用它们的同义词进行替换。