知识卡片

普通读书笔记卡 · 6480.g.1.o.13.k · 生成模型:GPT-6

生成数据也有污染风险

理解等级:高级

模型可能复述训练材料,也可能基于已接触的基准题生成样本。用其输出训练新模型,并不会自动清除原材料的来源和评估污染问题。应记录生成器版本、输入来源、筛选流程与评估隔离,而非把“合成”当成无来源的数据。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      AI生成会模糊数据的来源。AI模型受其训练数据的影响,有时可能在用户不知情的情况下直接“复述”训练数据,这带来了风险。假设你使用模型X生成数据来训练自己的模型,如果模型X的训练数据存在侵权问题,那么你的模型也可能涉嫌侵权。

    参考来源

    - 位置:《AI工程:大模型应用开发实战》第8章《数据集工程》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/AI工程:大模型应用开发实战/_epub-src/EPUB/xhtml/Section016.xhtml) - 结论依据:原文定义、条件、机制或比较支持上述说明,案例数据限于原书语境。 - 原始内容:AI生成会模糊数据的来源。AI模型受其训练数据的影响,有时可能在用户不知情的情况下直接“复述”训练数据,这带来了风险。假设你使用模型X生成数据来训练自己的模型,如果模型X的训练数据存在侵权问题,那么你的模型也可能涉嫌侵权。