知识卡片
攻防主体分离
分析 AI 安全问题时,先把四类主体分开:攻击者是发起恶意监听、窃取、干扰或破坏的个人或组织,而攻击方法只是其使用的程序、软件或算法,二者不能等同——同一段代码背后才是要追责的人。受害者也不只限数据或模型所有者,还包括被模型决策影响的普通用户,例如人脸识别数据泄露波及的是百万用户的人脸隐私,自动驾驶被攻击首先威胁乘客与行人的生命安全。防御者可以是受害者本人(主动防御时)或独立第三方,但与攻击者并不对等:攻击者只需单点攻破,防御者却要防住所有已知乃至未知攻击。厘清主体,责任边界与防御目标才不会混乱。参见 [[威胁模型先行]]。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 人工智能安全基础 3.1 基本概念 · 查看原书依据
值得注意的是,实际完成攻击的可能是一段程序(如一个攻击算法),但是真正的攻击者是程序背后的个人或组织,所以攻击者不等于攻击方法,二者是不同的概念。
参考来源
- 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第3章《人工智能安全基础》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter8_0002.xhtml)
- 结论依据:分析 AI 安全问题时,先把四类主体分开:攻击者是发起恶意监听、窃取、干扰或破坏的个人或组织,而攻击方法只是其使用的程序,原文从「3.1 基本概念」处给出对应机制与依据,支撑本卡结论。
- 原始内容:值得注意的是,实际完成攻击的可能是一段程序(如一个攻击算法),但是真正的攻击者是程序背后的个人或组织,所以攻击者不等于攻击方法,二者是不同的概念。