知识卡片
解法:取消「方言」概念,改用模型置信度找数据
团队最终认识到:不管某位用户说什么方言,真正想要的只是让模型在它当时正吃力的语音上表现更好。ASR 模型在北美方言上表现好,是因为一直被喂北美语音;于是同样可以通过「加入欠采样数据」来改进这个已有模型,构建一个对方言无感(agnostic)的模型,而不必为每种方言单独建模或标注。具体做法极简:只去拿更多「模型当前做得差」的数据,用模型自身的置信度度量筛选出来;人工转写这些代表性不足的数据,再把它与原训练集一起训练出新模型。几轮模型调优与评估后,ASR 模型在团队人工精心整理的代表性不足方言测试集上明显变好,而训练技术与模型架构一点没改。更值得注意的是,这批额外的方言数据只占原训练集极小一部分,却带来了显著的性能差异。这个案例把「问题重构 → 用模型自身信号替代敏感元数据 → 小数据带来大改进」串成一条完整链路,也说明为什么数据工程的巧思有时比新架构更有杠杆。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- Case Studies: MLOps in Practice · 查看原书依据
The ASR model did well with North American dialects because we had been feeding it North American speech, so we could also improve this existing model by adding undersampled data, building a model agnostic of dialects. We ended up simply getting more data that our model was doing poorly on, filtered by the model’s own confidence measure.