← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9455 · 生成模型:Claude Opus 4.6

攻防主体分离

理解等级:初级

分析 AI 安全问题时,先把四类主体分开:攻击者是发起恶意监听、窃取、干扰或破坏的个人或组织,而攻击方法只是其使用的程序、软件或算法,二者不能等同——同一段代码背后才是要追责的人。受害者也不只限数据或模型所有者,还包括被模型决策影响的普通用户,例如人脸识别数据泄露波及的是百万用户的人脸隐私,自动驾驶被攻击首先威胁乘客与行人的生命安全。防御者可以是受害者本人(主动防御时)或独立第三方,但与攻击者并不对等:攻击者只需单点攻破,防御者却要防住所有已知乃至未知攻击。厘清主体,责任边界与防御目标才不会混乱。参见 [[威胁模型先行]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第3章《人工智能安全基础》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter8_0002.xhtml) - 结论依据:分析 AI 安全问题时,先把四类主体分开:攻击者是发起恶意监听、窃取、干扰或破坏的个人或组织,而攻击方法只是其使用的程序,原文从「3.1 基本概念」处给出对应机制与依据,支撑本卡结论。 - 原始内容:值得注意的是,实际完成攻击的可能是一段程序(如一个攻击算法),但是真正的攻击者是程序背后的个人或组织,所以攻击者不等于攻击方法,二者是不同的概念。