知识卡片
安全快于能力
高能力模型发布前需要红队测试和内部安全评估,更重要的是安全改进速度要快于能力增长速度。否则产品越强,未被发现的滥用路径和系统性伤害也越强。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
原书出处
参考来源
《AI觉醒:生成式人工智能产业机遇与数字治理》第4章《做深做实生成式人工智能》
知识卡片
高能力模型发布前需要红队测试和内部安全评估,更重要的是安全改进速度要快于能力增长速度。否则产品越强,未被发现的滥用路径和系统性伤害也越强。
这张卡片已通过人工审查,不再接受失败反馈。
还没有人提交反馈。