← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9463 · 生成模型:Claude Opus 4.6

攻击走向现实

理解等级:中级

未来攻击正从数字空间蔓延到物理世界:研究对象不再局限于标准数据集和理想化威胁模型,而是转向自动驾驶、人脸识别等真实场景中的传感器与实体对象。攻击目标也从中小模型扩展到大模型,从单一图像或文本走向图像、文本、语音多模态组合。这意味着安全评估若仍只依赖实验室里的数字扰动,会低估真实系统的风险;威胁模型必须把物理约束、模态交互和规模化效应一并纳入,才能解释并应对现实中可能出现的攻击。相关趋势可参见[[防御走向组合]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第11章《未来展望》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter16_0002.xhtml) - 结论依据:未来攻击正从数字空间蔓延到物理世界:研究对象不再局限于标准数据集和理想化威胁模型,而是转向自动驾驶、人脸识别等真实场景中,原文从「11.1 未来攻击」处给出对应机制与依据,支撑本卡结论。 - 原始内容:从数字攻击转向物理攻击。出现针对更广泛的人工智能应用场景的物理攻击。目前大多数攻击是数字攻击,所采取的威胁模型都存在一定的局限性