知识卡片
防御三策略
防御围绕三类思路展开:检测在部署阶段实时发现异常并拒绝服务,寻找攻击数据与正常数据在分布、查询频率、利益目标上的差异,对模型影响最小、最易落地,但单次检出率有限,须靠多次攻击累积检出概率;数据保护旨在降低训练与推理中的数据泄露;模型增强提升模型自身鲁棒性,使其在被扰动时仍保持稳定,是最根本也最难实现的方式。三者常需组合:单一防御往往只覆盖某一威胁模型,而完备法律短期难以建立,技术层面须在检测与增强上发力。防御还面临攻防不对等——攻击者单点突破即可,防御者必须应对所有已知和未知攻击。参见 [[攻击三维分类]]。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 人工智能安全基础 3.4 防御类型 · 查看原书依据
这就需要在检测和增强两种技术解决方案上下大力气,最大限度地降低安全隐患。下面将从攻击检测、数据保护和模型增强三个方面讨论现有防御工作的基本思想。
参考来源
- 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第3章《人工智能安全基础》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter8_0005.xhtml)
- 结论依据:防御围绕三类思路展开:检测在部署阶段实时发现异常并拒绝服务,寻找攻击数据与正常数据在分布、查询频率、利益目标上的差异,对,原文从「3.4 防御类型」处给出对应机制与依据,支撑本卡结论。
- 原始内容:这就需要在检测和增强两种技术解决方案上下大力气,最大限度地降低安全隐患。下面将从攻击检测、数据保护和模型增强三个方面讨论现有防御工作的基本思想。