知识卡片

普通读书笔记卡 · 9453 · 生成模型:Claude Opus 4.6

内生安全边界

理解等级:中级

人工智能安全按作用对象与效果可分为三类:内生安全源于系统自身脆弱性,作用对象是系统本身;衍生安全是模型不安全波及其他领域,如自动驾驶事故、智能体失控;助力安全则利用 AI 提升其他领域安全性,作用正向有益。数据与模型安全属于内生安全,因为风险出在训练、数据收集与推理等环节。厘清这条边界的用途在于确定治理重点:要追问系统为何被攻破,而不是 AI 被用来攻击什么。需注意内生安全不限于数据与模型,还涵盖框架、依赖库与云服务安全。参见[[数据模型两面]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 人工智能与安全概述 1.3.1 数据与模型安全 · 查看原书依据

      根据安全问题所涉及的作用对象以及作用效果的不同,人工智能安全大致可以分为以下三类 :人工智能内生安全、人工智能衍生安全以及人工智能助力安全。人工智能内生安全指的是由于技术本身的脆弱性所引发的智能系统本身出现的安全问题,其作用对象是系统本身。

    参考来源

    - 位置:《人工智能数据与模型安全 (姜育刚马兴军吴祖煊)》第1章《人工智能与安全概述》(源文件:extracted/人工智能数据与模型安全 (姜育刚马兴军吴祖煊)/_epub-src/EPUB/xhtml/chapter6_0003.xhtml) - 结论依据:人工智能安全按作用对象与效果可分为三类:内生安全源于系统自身脆弱性,作用对象是系统本身;衍生安全是模型不安全波及其他领域,原文从「1.3.1 数据与模型安全」处给出对应机制与依据,支撑本卡结论。 - 原始内容:根据安全问题所涉及的作用对象以及作用效果的不同,人工智能安全大致可以分为以下三类 :人工智能内生安全、人工智能衍生安全以及人工智能助力安全。人工智能内生安全指的是由于技术本身的脆弱性所引发的智能系统本身出现的安全问题,其作用对象是系统本身。