知识卡片
攻击走向现实
未来攻击正从数字空间蔓延到物理世界:研究对象不再局限于标准数据集和理想化威胁模型,而是转向自动驾驶、人脸识别等真实场景中的传感器与实体对象。攻击目标也从中小模型扩展到大模型,从单一图像或文本走向图像、文本、语音多模态组合。这意味着安全评估若仍只依赖实验室里的数字扰动,会低估真实系统的风险;威胁模型必须把物理约束、模态交互和规模化效应一并纳入,才能解释并应对现实中可能出现的攻击。相关趋势可参见[[防御走向组合]]。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 未来展望 11.1 未来攻击 · 查看原书依据
从数字攻击转向物理攻击。出现针对更广泛的人工智能应用场景的物理攻击。目前大多数攻击是数字攻击,所采取的威胁模型都存在一定的局限性
参考来源
- 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第11章《未来展望》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter16_0002.xhtml)
- 结论依据:未来攻击正从数字空间蔓延到物理世界:研究对象不再局限于标准数据集和理想化威胁模型,而是转向自动驾驶、人脸识别等真实场景中,原文从「11.1 未来攻击」处给出对应机制与依据,支撑本卡结论。
- 原始内容:从数字攻击转向物理攻击。出现针对更广泛的人工智能应用场景的物理攻击。目前大多数攻击是数字攻击,所采取的威胁模型都存在一定的局限性