知识卡片

普通读书笔记卡 · 6472.a.3.a.4.a.1.a.2 · 生成模型:GPT-6

限制攻击面

理解等级:高级

公共 AI 系统会遭遇对抗性输入、模型窃取和反馈投毒。限速、验证码、延迟反馈生效、保留备用版本和应急联系人,都是模型安全的一部分。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 生产之旅 · 查看原书依据

      你首先需要限制恶意行为的探测数量(例如,通过限制来自相同网络地址或者账户请求的速度)来防止对抗性输入,或是要求用户在频繁请求时输入验证码(CAPTCHA)。在某些情况下,保留模型细节的秘密是适当的行为,这样攻击者就不会有任何可以攻击那里的线索。

    参考来源

    - 位置:《AI图景:Sora时代的人工智能应用》第7章《生产之旅》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/AI图景:Sora时代的人工智能应用 ((美)阿莉莎·辛普森·罗赫韦格)/_epub-src/OEBPS/Text/chapter47.xhtml) - 结论依据:原文中的具体定义、条件或案例支撑上述解释;结论限于该段说明的用途与场景。 - 原始内容:你首先需要限制恶意行为的探测数量(例如,通过限制来自相同网络地址或者账户请求的速度)来防止对抗性输入,或是要求用户在频繁请求时输入验证码(CAPTCHA)。在某些情况下,保留模型细节的秘密是适当的行为,这样攻击者就不会有任何可以攻击那里的线索。