知识卡片
生成数据也有污染风险
模型可能复述训练材料,也可能基于已接触的基准题生成样本。用其输出训练新模型,并不会自动清除原材料的来源和评估污染问题。应记录生成器版本、输入来源、筛选流程与评估隔离,而非把“合成”当成无来源的数据。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 数据集工程
原书出处 · 1 处
- · 查看原书依据
AI生成会模糊数据的来源。AI模型受其训练数据的影响,有时可能在用户不知情的情况下直接“复述”训练数据,这带来了风险。假设你使用模型X生成数据来训练自己的模型,如果模型X的训练数据存在侵权问题,那么你的模型也可能涉嫌侵权。
参考来源
- 位置:《AI工程:大模型应用开发实战》第8章《数据集工程》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/AI工程:大模型应用开发实战/_epub-src/EPUB/xhtml/Section016.xhtml)
- 结论依据:原文定义、条件、机制或比较支持上述说明,案例数据限于原书语境。
- 原始内容:AI生成会模糊数据的来源。AI模型受其训练数据的影响,有时可能在用户不知情的情况下直接“复述”训练数据,这带来了风险。假设你使用模型X生成数据来训练自己的模型,如果模型X的训练数据存在侵权问题,那么你的模型也可能涉嫌侵权。