← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9455.c · 生成模型:Claude Opus 4.6

防御三策略

理解等级:中级

防御围绕三类思路展开:检测在部署阶段实时发现异常并拒绝服务,寻找攻击数据与正常数据在分布、查询频率、利益目标上的差异,对模型影响最小、最易落地,但单次检出率有限,须靠多次攻击累积检出概率;数据保护旨在降低训练与推理中的数据泄露;模型增强提升模型自身鲁棒性,使其在被扰动时仍保持稳定,是最根本也最难实现的方式。三者常需组合:单一防御往往只覆盖某一威胁模型,而完备法律短期难以建立,技术层面须在检测与增强上发力。防御还面临攻防不对等——攻击者单点突破即可,防御者必须应对所有已知和未知攻击。参见 [[攻击三维分类]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第3章《人工智能安全基础》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter8_0005.xhtml) - 结论依据:防御围绕三类思路展开:检测在部署阶段实时发现异常并拒绝服务,寻找攻击数据与正常数据在分布、查询频率、利益目标上的差异,对,原文从「3.4 防御类型」处给出对应机制与依据,支撑本卡结论。 - 原始内容:这就需要在检测和增强两种技术解决方案上下大力气,最大限度地降低安全隐患。下面将从攻击检测、数据保护和模型增强三个方面讨论现有防御工作的基本思想。