来源书籍

人工智能安全

Skill 版本:v24 经典原理(高信息浓度 + 高稳定性) 177 张卡片

陈左宁 主编;卢锡城 副主编;方滨兴 副主编 · 电子工业出版社 · 2024-04 · ISBN 9787121471414

全书导读

本书从计算平台、无人系统、强人工智能、工业与城市、网络攻防、产业链和社会治理等角度建立安全地图。技术可靠、供应可控、社会可接受是互有关联但不能互相替代的目标。书中研究、市场数据和预测保留出版时点语境,不作为当下事实或法律建议。

全书主线

人工智能既可能自身失效,也可能扩大人的攻击与滥用能力。安全因此需要从数据、模型、运行平台一直延伸到应用场景、产业链和制度。各章是不同层次的互补讨论,不是实施顺序固定的一套算法。

内容简介

阅读对象与范围

本书面向研发、应用和治理人员。它先界定人工智能安全,再讨论运行平台与应用场景,最后讨论产业和制度。安全既关乎系统能否正确工作,也关乎系统正确工作时是否伤及其他主体;后面的章节围绕这两个问题展开。简介只说明范围,不提供新的机制论证。

前言

自主能力为何扩大安全边界

人工智能是一类能从数据中学习并据此决策、行动的工程系统。它仍会受到材料、结构和运行环境的传统约束,但学习行为还带来数据依赖、解释困难、目标表达不完整等特殊问题。内生安全关心系统是否正确发挥预定功能;衍生安全关心系统应用对其他系统的影响,后者既可能来自故障,也可能来自成功完成有害任务。

因此,可信平台不能单独证明应用无害,法律规范也不能替代技术可靠性。全书把科学技术、标准、伦理与法律看作互补治理手段。前言署2022年6月;电子版版权时间为2024年4月,不能把书中“目前”自动解释成2026年的现状。

安全源于自主性:进一步解释本单元的这一机制及边界。

内生与衍生:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

概述

数据、模型与应用扩散

早期逻辑推理、专家知识库与后来的深度学习,对可得知识和算力有不同依赖。第三轮的特殊之处,是学习模型进入大量日常决策场景。能力扩散也使错误影响从研究系统扩展到教育机会、推荐内容、信用评估等现实分配。

数据质量是模型安全的输入条件:缺失、噪声和人为污染都可能改变学习或判断。模型能够从样本形成参数,不等于它能自动识别样本是否真实。深度模型还可能过拟合,或难以给出可审查的解释。本节将这类困难联系到实际安全;其中“学习因果关系”的原书措辞不宜理解为神经网络天然证明了因果。

教育系统可能放大已有偏见,联合信贷建模则面对获取多源数据与保护隐私的冲突。平台效率指标只能说明特定时期的应用规模,不能证明分配公平或隐私风险已解决。

双刃剑通用技术:进一步解释本单元的这一机制及边界。

数据质量是安全条件:进一步解释本单元的这一机制及边界。

教育算法放大偏见:进一步解释本单元的这一机制及边界。

联合建模的数据矛盾:进一步解释本单元的这一机制及边界。

原书依据 · 4 处

从应用失误到系统性风险

医学相关性模型未必能表达疾病的因果过程,领域专家缺席会进一步削弱判断。自动驾驶则把云服务、传感器、算法和底盘放进同一执行链,传统网络漏洞与感知、模型攻击同时存在。只加固一种组件无法覆盖整条链。

当模型参与信用评估、身份认证或关键生产,误判与伪造可能变成经济损失;当技术替代岗位或增强武力,风险甚至不以系统出错为前提。开源框架、数据集、预训练模型也是供应链的一部分。书中就业比例和战争报道是历史材料或预测,不能当作已验证的当前结论。

自动驾驶的复合攻击面:进一步解释本单元的这一机制及边界。

应用扩散改变就业结构:进一步解释本单元的这一机制及边界。

开放组件仍需安全评测:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

学习系统的特有薄弱环节

可解释性关心人能否理解判断依据和追溯错误;鲁棒性关心输入或环境变化后,学习结果还能否适用。二者不能互相替代:知道模型依据什么,不代表该依据在新环境中仍可靠;监测模型也可能受同一种分布偏差影响。

目标函数把真实意图压缩为可优化指标,遗漏约束时算法可能合法取得高分,却违背人的目的。奖励黑客是在形式规则中取巧,Wireheading更强调绕过应执行的任务直接取得奖励。对抗样本则是有意选择扰动,与自然环境变化不同。

内生安全进一步覆盖框架组件、共享运行资源、协同训练与模型服务。联邦学习把数据留在本地,不等于所有交换信息都不会泄露隐私;模型黑盒服务也可能让反复查询者推测模型功能。

解释性支持错误追溯:进一步解释本单元的这一机制及边界。

分布变化削弱安全:进一步解释本单元的这一机制及边界。

指标最优未必合意:进一步解释本单元的这一机制及边界。

扰动攻击不同于漂移:进一步解释本单元的这一机制及边界。

模型服务并非保密屏障:进一步解释本单元的这一机制及边界。

原书依据 · 5 处

失效、滥用与衍生后果

复杂算法若无法及时更新动态信息,即使理论模型合理,也可能不能满足现实决策时限。共享资源与联合训练还可能暴露私有信息。原文对“闪避攻击”的一句描述混入训练污染语境,应以它随后指出的推理阶段与训练阶段区别理解,不照搬混乱定义。

衍生风险有两条路径:系统有缺陷,行动造成伤害;系统正常完成目标,仍造成失业、隐私侵犯或攻击增强。风险评估因此需要把受影响的人、组织和基础设施纳入边界。具备行动、破坏及自我演化能力的系统还引出失控担忧,但这是一类前瞻风险讨论,不是已经证明必然发生的事实。

本节“不会带来对法治、伦理的冲击”与同段后文和全书主张矛盾,应视为文本疑误,笔记依据实质论证保留法律伦理挑战。

计算时限也是安全边界:进一步解释本单元的这一机制及边界。

本地数据仍可能泄露:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

治理体系与安全评测

自主可控在本书中意味着拥有检查、改进和维护关键技术的能力,仍不等于不存在漏洞。标准把治理目标转为可评测要求,法律明确主体责任和实施约束,伦理引导设计目标与人类利益之间的关系。它们需要配合,单一认证或单个安全组件都不能兜住全生命周期风险。

评估能力依赖样例库、共享数据、工具与专家机制,并且要动态更新。技术和环境变化时,过去的评估证据可能失效。不同国家历史侧重点只是制度比较材料,所列法律与标准不作为现行合规清单。

治理不能单点:进一步解释本单元的这一机制及边界。

自主可控不等于安全:进一步解释本单元的这一机制及边界。

评测需要动态证据:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

安全研究的引用文献1

本段为第1章文献表。它为解释性、对抗样本、联邦学习隐私与伦理治理提供检索入口,不等于本次已阅读、验证这些外部论文。正文机制来自本书实际论述;书目保存在概览引用文献表。

安全研究的引用文献2

本段为第1章文献表。它为解释性、对抗样本、联邦学习隐私与伦理治理提供检索入口,不等于本次已阅读、验证这些外部论文。正文机制来自本书实际论述;书目保存在概览引用文献表。

可信计算保障人工智能安全

可信根与计算防护双体系

本章把可信计算作为人工智能运行环境的基础。可信根是后续完整性判断的起点;TPCM是具有控制和度量能力的硬件模块;可信软件基在宿主系统中拦截和度量操作。计算与防护并存的双体系试图在程序运行时持续检查,而非只靠应用主动调用安全服务。

密码机制承担不同职责:SM3提供完整性摘要,SM2参与签名与身份相关验证,SM4用于对称加密。可信网络连接把访问者、控制者和策略管理者纳入统一策略。平台体系再分为计算环境、区域边界、通信网络和管理中心。这里“可信”主要指相对于基准和策略的完整性、受控执行,不直接证明训练数据真实、模型公平或目标合理。

主动免疫可信:进一步解释本单元的这一机制及边界。

可信链传递:进一步解释本单元的这一机制及边界。

AI平台先可信:进一步解释本单元的这一机制及边界。

可信密码职责分工:进一步解释本单元的这一机制及边界。

原书依据 · 4 处

从静态启动到动态行为度量

首次建立的摘要基准用于后续比较。启动时从硬件配置、加载器、内核到算法程序逐级度量,运行时再按定时或事件触发检查内存代码、关键跳转表和共享库。基准若来自不可信初始状态,比较一致也不能产生可信结论。

数据可信标签包含完整性、标识、属性和签名,帮助判断传输内容和来源是否符合策略;它不是数据真实性或代表性的替代检验。调用列表保护则约束算法组合的执行顺序。行为度量比较系统调用序列与执行图,能更早拦截异常,但合法行为变化多时建模困难,固定任务系统更易适用。

可信报告把度量过程交给其他节点判断。启动过程相对固定,可比对预期PCR结果;运行任务顺序不同,需结合原始度量记录和完整性保护验证,不能只比较一个固定终值。

启动度量依赖可信基准:进一步解释本单元的这一机制及边界。

动态度量覆盖运行变化:进一步解释本单元的这一机制及边界。

行为度量比较调用路径:进一步解释本单元的这一机制及边界。

可信标签不证明事实:进一步解释本单元的这一机制及边界。

运行证明需要过程记录:进一步解释本单元的这一机制及边界。

原书依据 · 5 处

密钥、审计与双向接入

可信存储的关键是密钥管理。数据可用随机对称密钥加密,再将密钥封装到可信根保护之下;密封还把解封权限绑定到指定平台状态。这样能限制文件被复制到另一环境后直接解密,但系统合法升级也可能改变状态,需要预先安排授权恢复。

审计记录普通活动、度量结果、策略学习材料和行为。普通审计可延迟上传以减轻压力,度量异常需更及时提供给管理者。二者服务不同的时效目标。可信连接则让终端和服务器相互验证:访问请求者申请,访问控制器执行策略,策略管理器校验证书、完整性与行为。身份有效、平台状态合规和行为允许是分开的检查。

密封绑定平台状态:进一步解释本单元的这一机制及边界。

密钥封装减少明文暴露:进一步解释本单元的这一机制及边界。

审计上传按时效分层:进一步解释本单元的这一机制及边界。

双向接入验证:进一步解释本单元的这一机制及边界。

原书依据 · 4 处

平台防护的本章边界

本章的贡献是把可信根、度量和接入控制组织成运行环境防护。它为后续自主系统提供可受控的执行载体,但无法独自消除第1章的数据偏差、目标表达和外部伤害。可信计算是一种重要技术路线,不是所有人工智能风险的完整解。

无人系统安全

无人驾驶的工程与社会边界

无人驾驶把感知、决策和控制接成现实行动链。工程风险包含识别、规划、执行和网络通信;社会风险包含责任分配、伦理冲突、公众心理与监管。普通车与智能车混行时,信息时延、可见范围和行为意图差异都会增加协作难度。封闭区域演示因此不能证明通用道路能力。

伦理调查还显示公共立场与个人乘坐选择可能不同,不同实验也得到不同结论,不能把一种投票偏好直接变成普遍伦理规则。事故追溯需要可靠记录,同时要防篡改。法律讨论是书中研究观点,未在此确立现行责任规则。

研究方法采用企业与政府案例,先做概念化再归类,分别保留两类材料,减少过早合并造成的信息丢失。样本可得与调研便利影响结论适用范围,定性风险识别不等于总体发生率估计。

无人驾驶混行:进一步解释本单元的这一机制及边界。

工程社会双风险:进一步解释本单元的这一机制及边界。

场景演示不能证明通用:进一步解释本单元的这一机制及边界。

风险编码避免过早合并:进一步解释本单元的这一机制及边界。

原书依据 · 4 处

从质性要素到风险度量

风险框架将概念、度量因子与问卷题项分层,让抽象风险有可观察的代理变量。信度关心题项是否一致,效度关心题项是否反映所需构念;整体拟合好不能替代每一项检验,更不能证明车辆实际故障率。书中部分指标接近而未达到其参考阈值,应保留这种局部限制。

评估先将题项平均为上层得分,再以4.2为分界把分数转为“安全/不安全”,据样本学习概率关系。这个状态是问卷模型的分类,不是现实事故概率。筛选倾向组内一致、组间差异大的样本,也会影响估计。政企与消费者的结果相近,支持该调查下的稳定性,不能消除样本与阈值选择的影响。

风险量表连接抽象与观察:进一步解释本单元的这一机制及边界。

风险概率受建模选择限制:进一步解释本单元的这一机制及边界。

图3-2与图3-3把题项、潜变量和相关关系画成测量模型,表3-3至表3-5展示各部分检验值;其中多层安全保障存在低于参考线的指标,不能只凭整体拟合概括全部理想。图3-4至图3-6的安全/不安全状态来自问卷阈值,不是事故率。

原书依据 · 2 处

分级响应与协同系统定义

高风险需要先判断是否可接受,必要时规避;中风险权衡控制成本,低风险持续监测。工程侧包括冗余、接管和特殊环境预案,管理侧包括准入、真实认证与保险。风险转移分配损失,不能替代降低伤害本身。

多无人系统是多个智能体通过通信、感知共同承担任务,既可以是车辆、无人机,也可以是软件智能体。协同让时空分布的信息得到利用,但引入通信、共同决策和一致性要求。本节的群体智能、自主协同和高级学习研究清单是研究方向,不能从列名推得能力已经成熟。

风险应对采用组合策略:进一步解释本单元的这一机制及边界。

协同能力来自信息交互:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

协同通信、演化与拓扑

协同系统把网络数据直接变成动作,所以必须同时保护信息内容和命令权限。一个潜伏的恶意节点可能在长期看似正常后破坏集体任务;通信安全不能仅等同于保密。

决策安全要求当前行为符合意图,演化安全要求长期学习方向仍受控。知识传播会把不完整经验、错误表述或不适用背景扩散到其他节点,局部学习进步未必带来整体正确。分布式控制减少对中心的依赖,却仍可能被故障节点影响,需要诊断、隔离和拓扑切换。

传感器融合也有边界:激光雷达受环境影响,惯性测量长时间积累误差。原文将IMU误写为“慢性测量单元”,这里按其英文所指的惯性测量理解。开源、商业服务依赖与漏洞是不同问题,不能把“开源”本身当作不安全原因。

集群拓扑安全:进一步解释本单元的这一机制及边界。

命令安全超出通信加密:进一步解释本单元的这一机制及边界。

协同学习可能传播偏差:进一步解释本单元的这一机制及边界。

传感融合仍有误差边界:进一步解释本单元的这一机制及边界。

原书依据 · 4 处

协同规模放大外部伤害

集群故障可能从单体坠落、碰撞扩展到交通、医疗或环境影响,恶意持有者还可能在系统正常运作时造成伤害。低获取门槛、协同规模与难追溯性使滥用治理格外重要。原文对完全一致、近乎无失误的犯罪协作有夸张概括,笔记保留“规模与协同放大后果”,不接受其为绝对能力。

技术防护从复杂系统模型开始:既要表示传感器和动力学,也要表示通信、任务分配与应用场景。军民场景有共性但目标和后果不同,不能用一个模型无差别覆盖。建模困难不能成为省略外部受影响者的理由。

低门槛高破坏:进一步解释本单元的这一机制及边界。

协同模型必须包含场景:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

预测、实时适应与安全一致性

设计阶段可用场景模型发现风险,样机和运行阶段可把事故与正常数据对照,寻找前兆。但数据挖掘只能覆盖已经观察到或可建模的因素,仍需要运行中的实时判断和任务取消能力。

自治性与强制控制有张力,节点间充分了解与保持分布优势也有张力。安全一致性要求节点不仅最终达成一致,还在过程中留在规定的安全范围。多层分簇支持故障后拓扑切换,但这些都是需在具体假设下验证的技术方向。

运行风险需要实时预测:进一步解释本单元的这一机制及边界。

一致还必须保持安全:进一步解释本单元的这一机制及边界。

自治与控制存在取舍:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

无人系统研究文献

这部分引用提供政策、通信安全、隐私与安全一致性的后续检索入口。论文题目不等于本书对其算法作出了完整证明,具体使用须另读原作。

基于类脑计算的强人工智能及其安全

强人工智能的讨论前提

本章采用偏重自主意识的强人工智能定义:不仅完成任务,还能自主思考、判断与迁移学习。这与只按任务广泛性界定通用人工智能的方式不同,阅读时应保留其定义,不能把性能提高直接当成意识已经产生。

弱人工智能可在专门任务超越人类,并不因此获得本章所说的心理能力。围绕强人工智能,赞成发展者强调生产力,谨慎者强调自我改进和失控风险。三条候选路径分别利用大数据学习、物理环境强化学习与仿脑结构;这是路线判断,不是成功证明。关于脑机接口项目归属等旁支叙事不据此形成现实事实结论。

强智能边界:进一步解释本单元的这一机制及边界。

强智能路线有不同假设:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

类脑仿真的技术假说

类脑计算是仿真、模拟或借鉴大脑结构与信息处理机制的装置、模型和方法。神经形态器件、脉冲神经网络与大规模系统是不同层次,达到某个神经元数量不等于完整复现脑功能。书中关于结构仿真足以产生意识的说法,应按待验证的研究假说理解。

本节以视网膜脉冲编码、天机、达尔文和海外系统说明研究路径,性能数字均是历史项目描述。脑科学与工程可以相互推动:先做出可运行装置再理解原理有历史先例,但先例只支持尝试的合理性,并不证明脑仿真的意识结论。结构、器件与智能三个层次需要各自证据。

类脑路径风险:进一步解释本单元的这一机制及边界。

仿真规模不等于脑功能:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

结构、器件与学习的分层路线

结构层研究神经元及连接,器件层把网络映射到受空间与功耗限制的硬件,应用层通过刺激和学习调整连接关系。它们相互依赖,但每一层的工程进展都不足以代替下一层的功能验证。

生命1.0、2.0、3.0以硬件和软件由演化还是个体设计区分,分别突出遗传适应、文化学习和自主改造;这是用于思考的宏观框架,而非严格生物分类。互联网推荐、商业决策、现实感知与自主行动四波则讨论应用渗透。两套“阶段”讨论对象不同,不能混成一条必然历史路线。原文将机器信贷分析概括为更公平,不能由自动化本身推出这一结论。

类脑工程分三层验证:进一步解释本单元的这一机制及边界。

生命阶段是设计能力框架:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

时间预测的证据边界

专家预测能组织不确定性,无法把未知科学突破变成确定日期。调查中的中位数、均值和概率区间有不同含义,题目本身也可能分别指技能超越、通用能力或意识,因此不能把不同年份直接拼接为同一共识。

能力地形图把不同任务比作不同海拔,说明技术进展并非在所有技能上同步。它是一种启发式表达,不给出每项职业消失的时间。不可解释性在类脑路线中仍存在:统计有效性、可追溯原因与抗干扰能力需要分别取证,仿生结构不会自然消除这些问题。

时间预测应保留分歧:进一步解释本单元的这一机制及边界。

能力地形图揭示不均衡:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

自我改进与友好约束的困难

本节设想快速自我改进可能压缩人类检查与干预窗口。关键风险是演化速度与控制能力不匹配,并不需要把机器拟人化为仇恨或背叛。将友好原则写进系统也有两类困难:内部实现难理解,参与者又可能不愿接受限制。技术可行和组织激励要分别分析。

智能指完成复杂目标的能力,意识指是否有主观体验,二者不应混同。本书对意识与威胁的联系属于推论;没有意识的系统也能因目标错误或滥用造成伤害。原文机器人“逃离”“自杀”等新闻叙事不足以证明自主意志,不作为意识证据。

自我改进压缩干预窗口:进一步解释本单元的这一机制及边界。

友好约束有双重障碍:进一步解释本单元的这一机制及边界。

智能与意识分别讨论:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

能力、通用性、控制与风险

能力是特定领域的任务水平,通用性是可处理任务的范围,控制涉及行为是否符合人的约束。低能力会因失职带来风险,高能力和广泛任务又会扩大难以预测的行为空间,所以风险并非随能力单调升降。人对系统的控制与系统对环境的控制尤其不能混为一谈。

白盒防控检查模型结构、目标和可解释性;黑盒防控通过冗余、鲁棒性和攻击测试检查外在表现。训练覆盖、数据污染检查、训练方法和可信部署是不同层的保障。全面数据只能扩大已覆盖条件,不能保证不会出现未知行为。元学习学习如何学习,有助多任务适应,但本书将其视为最接近强人工智能的意见不是完成证明。

能力风险并非单调关系:进一步解释本单元的这一机制及边界。

白盒黑盒防控互补:进一步解释本单元的这一机制及边界。

元学习关注学习方式:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

把原则落实为行动与生命周期控制

价值原则需转为可检查的行动约束,并保留异常时的外部干预能力。但单个动作被允许不一定证明动作组合的全局后果安全,规则也需覆盖真实场景。标准化可统一模型模块、训练接口、数据表达和安全要求,改善迁移复现和检查基础;公开标准本身并不保证隐私。

生命周期控制包括设计时低耦合与替换接口,训练时数据归档、污染排查及多数据集覆盖,运行时备份模型与无干扰监测。稳定性与可修正性需要同时保留,不能因追求不变而失去纠正能力。深度伪造与检测形成持续对抗,隐私治理则需限定系统与管理者的数据使用范围。

阶段化控险:进一步解释本单元的这一机制及边界。

行动规则落实价值约束:进一步解释本单元的这一机制及边界。

标准化改善复现基础:进一步解释本单元的这一机制及边界。

多层备案支持恢复:进一步解释本单元的这一机制及边界。

原书依据 · 4 处

前瞻安全与独立修复

应用安全从开发起就要考虑突发故障和可恢复性。人工辅助与备用处理路径需要在紧急状态下仍能工作,而非仅存在名义上的接管按钮。原文事故因果有所简化,笔记只保留预先设计恢复与控制权的启发,不据此给具体事故定责。

受损的智能系统可能失去诊断自身的能力,因此修复功能需要独立执行环境,或由专门外部服务承担。独立性改善恢复机会,也带来资源与维护开销。本章最终主张按理论、技术和应用阶段提前准备;前瞻治理的价值不依赖相信某个强人工智能日期。

前瞻治理必要:进一步解释本单元的这一机制及边界。

修复系统需独立可用:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

类脑与安全研究文献

引用清单展示本章综合了多种研究与评论材料,证据层级并不相同。书目中的学术论文、新闻和预测应在后续使用时分别核验;这里登记作品,不补造其全文结论。

智能制造和智能城市中的人工智能应用安全

制造系统的分层风险

智能制造不只是给机器增加模型,而是把资源、生产能力、产品与服务组织到互联体系。资源层提供设备与知识,感知通信层采集和传递信息,边缘层承担近端实时处理,云端协调共享资源与制造服务,应用层支撑协同、定制等模式。

风险随职责改变:设备可能物理失效,感知控制可能受干扰,边缘与云模型可能被破坏,数据和框架可能存在供应链缺陷,应用还可能管理失当。信息系统错误能沿生产链变成物理伤害,所以必须把网络、功能与人身安全连起来。

工业AI外部性:进一步解释本单元的这一机制及边界。

制造架构分层定责任:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

制造安全一体化与感知入口

本节历史调查显示,许多已有能力来自工控、物联网和云安全,人工智能还要补充数据、模型、公平性与解释性治理。功能安全关注执行任务时不造成不可接受风险,信息安全关注攻击与信息资产;二者会通过生产过程相互影响。

智能感知既采集数据也选择重要信息,边缘轻量算法可能直接决定报警。产品设计则由调研、画像、原型验证到上市反馈形成闭环。若前端采样或画像有偏,后续生产优化可能高效地服务错误目标,因此业务闭环也需安全和质量约束。厂商名称、并购意向及标准状态都保留历史时点。

制造安全需要系统一体化:进一步解释本单元的这一机制及边界。

智能感知兼做信息筛选:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

制造业务链中的模型风险

机器视觉质检、振动故障预测、配送规划和需求预测分别把模型输出接到不同业务决定。安全后果也因此不同:漏检影响产品,错误维护扰乱排产,错误预测改变库存。性能宣传必须放回数据与场景条件,不能由“少量样本”概括出普遍可靠性。

边缘计算降低延迟和通信成本,但分散设备扩大维护与攻击面;云端集中数据和模型,又可能通过接口、存储或反向推断泄露信息。训练投毒改变学习基础,推理阶段对抗样本则改变具体输入,黑箱让审查更困难。分箱、聚类、回归等清洗方法用于某类噪声,不能据列名就认定可防所有有意污染。

业务后果决定模型评估:进一步解释本单元的这一机制及边界。

边缘低延迟不等于低风险:进一步解释本单元的这一机制及边界。

统计关联不能代替因果:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

应用运营闭环与城市架构

应用层的风险不会在模型上线后结束。数据分级、存储销毁、补丁管理、事件报告、事故处理和事后指导共同构成运营闭环。安全产品、态势平台与运营服务承担不同职责,需要对应具体风险,而非只采购一组名目。

智能城市把类似的资源—感知—边缘—云端—应用结构用于市政、民生和环境服务。共享提高协作能力,也集中市民数据和公共服务依赖。区块链可追溯的设想不能自动解决输入真实性、权限或隐私问题,不能把“不可篡改”当作全面安全保证。

场景决定体系:进一步解释本单元的这一机制及边界。

智慧城市边界:进一步解释本单元的这一机制及边界。

图5-2将风险防护组织为感知接入、边缘处理、云端平台和应用四层,数据逆向、存储、训练、审查和运维各有检查位置;图5-4将同样的分层思想适配到城市网络、融合数据与空间群智安全,图中树形并列不表示必须串行实施。

原书依据 · 2 处

城市服务如何使用智能

城市应用的共同机制,是采集分散的信息、进行分析,再将结果用于服务和资源分配。政务共享减少重复环节,安防主动识别风险,物流把信息流提前于实物流,能源系统协调多种能源的生产和使用。它们目标不同,不能只用同一个效率指标评价。

共享越广,权限和隐私边界越重要。身份特征泄露、错误告警、交通调度异常都可能影响市民。厂商方案和历史标准说明建设背景,不能证明实际系统已满足安全要求;医疗和疫情案例这里只用于理解数据链,不转为健康干预建议。

城市协同依赖信息先行:进一步解释本单元的这一机制及边界。

原书依据 · 1 处

城市融合带来的跨域风险

城市感知需要设备认证与数据保护;网络通信需要边界、隔离与接入控制;云边平台需要保障存储、模型和计算资源;应用还需持续运营。相同数据进入多个系统后,单处失窃可能组合成更完整的个人画像,跨媒体分析也可能放大偏差。

因此,空间和群智安全关注应用之间的关联后果,而非只保护每个数据库。安全共享、分级保护、隐私计算和态势感知应对应具体目的与威胁。AIGC增加伪造、版权和预训练数据来源问题,防护方向需在实际采用时核验,不把建议清单当成已经完成的保障。

跨域融合扩大隐私后果:进一步解释本单元的这一机制及边界。

城市安全需跨层闭环:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

安全是制造与城市落地前提

制造与城市都将学习系统接到现实环境。它们共享分层架构,却有不同的参与者和失败后果,所以需要以场景风险推导防护,再以技术、运营和制度共同支撑。安全从设计开始,并持续到使用、维护和事件反馈。

安全是落地前提:进一步解释本单元的这一机制及边界。

原书依据 · 1 处

网络安全

智能化扩大网络攻防能力

网络安全围绕机密性、完整性和可用性展开对抗。人工智能既能分析异常与预测风险,也能降低攻击者分析目标、生成内容和协同行动的成本。不能因防御采用学习模型,就假设攻击者仍按固定规则行动。

本节将恶意软件变换视为保留功能前提下的优化,密码猜测利用泄露样本的分布,钓鱼利用目标兴趣定制消息,僵尸网络把学习下放到受控节点,语音合成则分离内容、音调、节奏和身份特征。这些机制解释为什么检测不能仅依赖固定签名或表面可信感;历史实验的突破率不能泛化为所有系统都已失守。

攻防智能化:进一步解释本单元的这一机制及边界。

恶意变换保功能避检测:进一步解释本单元的这一机制及边界。

密码猜测学习使用分布:进一步解释本单元的这一机制及边界。

智能钓鱼规模化:进一步解释本单元的这一机制及边界。

僵尸网络下放自主决策:进一步解释本单元的这一机制及边界。

语音相似不证明身份:进一步解释本单元的这一机制及边界。

原书依据 · 6 处

训练污染、攻击链与设备指纹

验证码依赖人机能力差距,视觉与语义推理进展会改变这项假设。投毒则通过改变学习输入破坏模型,原文同时穿插恶意域名生成等其他攻击,应按作用阶段分清。

网络杀伤链从侦察、构建、投递、利用、植入、控制到目标达成描述攻击进程,有助在多处设置观测和阻断。精确化、自动化与规模化是不同影响维度,并不严格只属于某一阶段。设备指纹认证另从硬件信号提取特征,经归一化、训练与阈值判别识别设备;学习式认证同样需要考虑环境变化和阈值误差。

投毒改变源头:进一步解释本单元的这一机制及边界。

攻击链全融入:进一步解释本单元的这一机制及边界。

验证码依赖能力差距:进一步解释本单元的这一机制及边界。

设备指纹来自物理信号:进一步解释本单元的这一机制及边界。

原书依据 · 4 处

学习式监测与取证的机制

静态恶意软件分析读取指令与结构,动态分析在隔离环境观察运行行为。自编码器通过压缩重建学习分布,重建误差可作为异常信号;这类信号需要阈值与后续调查,异常不自动等于恶意。芯片木马检测则从成像或功耗延迟等侧信道寻找偏离。

流量监测以正常基线识别异常,用户行为分析加入日志语义与群组,端点监测关联进程、网络和文件。Web检测可比较代码、请求或页面表征,但页面相似并不单独证明攻击。取证把孤立告警接成事件序列,帮助分析者重建情节,仍需保留原始证据并验证关联。舆情分类从公开表达推断情感,不宜当成对个体心理或实际危险的确定判断。

静态动态恶意分析互补:进一步解释本单元的这一机制及边界。

重建误差只是异常线索:进一步解释本单元的这一机制及边界。

硬件木马可观察侧信道:进一步解释本单元的这一机制及边界。

行为语义补充事件匹配:进一步解释本单元的这一机制及边界。

端点监测关联多种行为:进一步解释本单元的这一机制及边界。

序列取证重建攻击情节:进一步解释本单元的这一机制及边界。

原书依据 · 6 处

预测、漏洞模式与情报流水线

态势预测学习历史事件变化,漏洞挖掘学习代码及调用的安全模式。前者的概率依赖环境延续性,后者的检出依赖代码表达与已知漏洞覆盖;二者都不能由最小训练误差推出未来零漏检。

开源情报分为采集、预处理存储、分析生成和分发决策。采集即需检验来源与相关性,异构内容需转为可分析结构,最终按用户需求提供结果。生成模型推演的“可能情报”必须标为假设,不能混入真实来源。军用及关键设施场景提出更快检测和恢复要求,书中的未来覆盖承诺不视作实测能力。

态势预测受历史规律约束:进一步解释本单元的这一机制及边界。

漏洞学习依赖代码表征:进一步解释本单元的这一机制及边界。

开源情报分阶段保真:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

威胁模型与对抗样本

普通学习假设数据分布稳定,安全应用还要明确对手。威胁模型描述目标、知识、可控输入与策略;投毒改变训练,探索和逃避主要影响推理,完整性、可用性与隐私又是另一条分类轴。把这些维度分开能避免用一种测试代表所有攻击。

对抗样本使模型在微小输入变化下高置信度误判,说明普通准确率与对抗鲁棒性不同。对其原因有高维线性、流形偏离、矩阵敏感性等解释,原文并未给出统一定论。人眼不易分辨只是图像场景的一种约束,网络流量还需满足协议与功能可行性。

威胁模型限定安全结论:进一步解释本单元的这一机制及边界。

攻击分类有多条轴:进一步解释本单元的这一机制及边界。

对抗样本软肋:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

鲁棒训练的最小最大结构

对抗训练先定义允许的扰动,再改变训练目标。内层在固定模型下寻找使损失增大的输入,外层调整模型参数以降低这种最坏损失。这与只降低普通样本平均损失不同,但实际求解与攻击集合均有限,不能把“最强”理解为所有未知威胁。原文内层一处把模型参数调整写入最大化描述,应按内外层对象分开理解。

黑盒攻击利用有限查询反馈,白盒假设更充分了解结构和参数。鲁棒增强可能受架构与资源限制,高要求场景仍需检测、替代结构和其他保障共同支撑。未来研究清单覆盖漏洞分析、代码语义、检测老化和策略迁移,属于研究问题而非已成熟交付。

对抗训练优化最坏损失:进一步解释本单元的这一机制及边界。

黑白盒表示知识差别:进一步解释本单元的这一机制及边界。

鲁棒增强仍需组合防护:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

模型攻击面与防御研究问题

针对模型的风险并不止于输入扰动。后门可让正常样本表现良好而特定条件异常;硬件故障可直接破坏参数;输出或嵌入又可能泄露训练内容。成员推断只问一个记录是否参与训练,与恢复整个记录不同,两者都可能造成隐私后果。

防御研究包括在线检查与恢复、后门验证、利用物理不变量检查信号、统计污染检测,以及保护推理与联邦学习的密码机制。模型验证、私密计算和抗恶意参与者是不同目标;采用一种机制不能自然覆盖其他目标。这里保留研究问题与边界,不把未来设想标为已完成。

后门可隐藏在正常精度下:进一步解释本单元的这一机制及边界。

模型输出也会泄露数据:进一步解释本单元的这一机制及边界。

成员推断判断训练参与:进一步解释本单元的这一机制及边界。

安全计算要说明对手假设:进一步解释本单元的这一机制及边界。

原书依据 · 4 处

网络安全研究文献1

本单元为第6章参考文献。具体作品和出版信息登记在概览中。它们可用于后续检索,不能由标题或本书转述代替阅读原论文和确认实验条件。

网络安全研究文献2

本单元为第6章参考文献。具体作品和出版信息登记在概览中。它们可用于后续检索,不能由标题或本书转述代替阅读原论文和确认实验条件。

网络安全研究文献3

本单元为第6章参考文献。具体作品和出版信息登记在概览中。它们可用于后续检索,不能由标题或本书转述代替阅读原论文和确认实验条件。

人工智能安全可控的产业生态建设

可控生态与软硬件协同

安全可控强调关键研究能力、核心技术与持续供应。书中对国家安全和民用场景采取不同强度要求,说明可控目标要按后果判断,而不能用统一替代比例评价。算法、算力、数据和产业链共同决定持续创新能力。

人工智能加速器并不普遍取代CPU:CPU处理逻辑与调度,加速器处理适合并行的计算。芯片性能还依赖驱动、指令抽象、内存和通信。若软件栈、带宽或并发开发受限,理论算力不能自动变为应用吞吐。硬件产品与市场数据均为书中时点描述。

安全可控内涵:进一步解释本单元的这一机制及边界。

算法算力数据链:进一步解释本单元的这一机制及边界。

加速器与CPU分工协同:进一步解释本单元的这一机制及边界。

算力落地依赖访存通信:进一步解释本单元的这一机制及边界。

原书依据 · 4 处

云边硬件取舍与软件生态

云端强调容量、吞吐与扩展,边缘强调功耗、延迟、体积与隐私。常见分工是云端训练、端侧或云端推理,但能力变化会改变边界。GPU、FPGA、ASIC分别体现通用并行、可重构与定制效率,书中的绝对优劣需放回具体任务。

新器件尝试在存储中完成运算以减少数据搬运,开源硬件和软件降低开发门槛、吸引生态;高级API减少底层差异,AutoML自动选择数据、配置和结构。这些便利同时增加对工具和抽象的依赖,不能省略验证。原文项目归属和增长“定律”存在简化,笔记不据其作当前产品判断。

云边选择由约束决定:进一步解释本单元的这一机制及边界。

硬件专用化需要场景前提:进一步解释本单元的这一机制及边界。

存算结合减少搬运:进一步解释本单元的这一机制及边界。

AutoML自动化迭代选择:进一步解释本单元的这一机制及边界。

原书依据 · 4 处

从编译桥梁到通用技术地图

中间表示位于框架和处理器之间,减少每对软硬件单独移植的工作。六层地图从芯片、底层库、学习框架走向通用技术、行业应用和终端产品,帮助识别依赖而非给性能排名。

集成学习组合多个学习器,强化学习从环境反馈优化行为,深度学习从多层网络形成表示。感知把图像语音等信号转为可识别特征,多模态融合多个视角;自然语言理解把表达转成机器语义,检索抽取寻找文档与事实。知识表示使知识可计算,数据挖掘从观察归纳模式,知识图谱显式组织实体关系。三者关联但目标不同。

数据中台用服务接口支持异构数据访问,人工智能中台进一步自动化接入、分析和训练。平台便利依赖输入质量与服务权限,统一接口并不自动保证安全。

中间表示减少移植组合:进一步解释本单元的这一机制及边界。

集成学习组合多个判断:进一步解释本单元的这一机制及边界。

强化学习优化交互回报:进一步解释本单元的这一机制及边界。

深度学习形成层次表示:进一步解释本单元的这一机制及边界。

多模态融合依赖对齐:进一步解释本单元的这一机制及边界。

语言理解连接语义与检索:进一步解释本单元的这一机制及边界。

知识表示发现图谱各有职责:进一步解释本单元的这一机制及边界。

数据中台以服务复用数据:进一步解释本单元的这一机制及边界。

原书依据 · 8 处

存储墙与产业进入门槛

存储墙是计算消耗数据的速度超过存储供给,增加计算单元也难利用。缓解思路一是减少访问需求,如压缩、降低精度或重计算,二是减少访问代价,如缓存、靠近存储或存内计算。

芯片竞争还受工艺、IP、工具与流片成本影响,架构优势可能被工艺差距抵消;高成本又使开放设计缺少供给、验证负担进一步增加。定制提高特定任务效率,也增加与应用和工具链的绑定。原文把开源项目转闭源、Wintel排他等概括为绝对关系并不充分,笔记只保留依赖管理与持续创新能力这一实质问题。

存储墙限制新增算力:进一步解释本单元的这一机制及边界。

芯片门槛形成成本循环:进一步解释本单元的这一机制及边界。

生态反哺安全:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

持续创新与生态测量

开源使用不等于核心贡献或维护能力,依赖还包括许可证、托管服务、工具库和参与规则。已经取得的代码权利、未来版本和平台服务是不同对象,不能把未来闭源风险写成既有开放版本随时失去使用权。

数据优势不仅是数量,还取决于质量、多样性、可获用性和授权。科研评价若只奖励论文,长期原型与工程验证可能投入不足。生态测量相应区分科学知识、技术成果和商业价值:论文、专利和业务数据分别反映一部分,任何单项数量都不能代表全部自主能力。

依赖管理超出代码可见:进一步解释本单元的这一机制及边界。

科研评价影响工程积累:进一步解释本单元的这一机制及边界。

三层生态需要多种证据:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

基础能力与应用需求相互促进

应用是否容易落地,取决于数据等基础设施是否就绪,以及可解决的问题有多大价值。制造与农业即使有价值,也可能受建设和资金约束。政策若集中短期见效的应用,会留下基础层短板;跨部门协调与共同标准帮助避免碎片化。

安全可控既贯穿科学—技术—市场的创新周期,也聚焦产业链的关键环节。安全能力支撑市场,应用反馈又帮助改进技术。书中的2025、2035、2050目标是规范性规划,不代表已经按期实现。IT历史提示:能运行只是起点,应用兼容、服务与使用体验共同决定能否形成可持续生态。

应用价值需要设施承接:进一步解释本单元的这一机制及边界。

基础层短板会被热潮掩盖:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

从顶层规划到产业协同

本节把自上而下的规划与自下而上的生态结合:规划减少重复立项和短期炒作,基础研发支持长周期核心技术,应用反馈帮助形成配套。安全可控清单应区分必须自主研发的关键点与可引进吸收的部分,不能把全部技术同等对待。

产业研究院试图连接人才、创新、产业和资本,校企培养补充工程积累。框架审查与分级使用依据领域后果展开,使用标签和认证不能替代真实能力。政策建议在本书中是待推动方案,不是现行义务或已经设立的机构。

民用分级可控:进一步解释本单元的这一机制及边界。

产业研究院连接四条链:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

产业生态章节收束与书目

本章最终将可控理解为持续研发、配套和供应能力。开放合作与自主创新在其论述中并不排斥,关键是能否把引进、应用和反馈转为可维护的自主能力。文献登记用于追踪历史比较的出处,不把报告排名当作当前现状。

人工智能安全标准与风险评估预警

标准如何支持治理

标准提供共同术语、接口、测试和管理要求,降低不同参与者协作的不确定性。法律与标准制定程序和约束方式不同,稳定制度与灵活技术要求可以互补。原文“标准无关权利义务”过于概括,笔记不据此判断任何标准的法律效力。

标准还会嵌入价值选择:允许怎样采集信息、怎样解释判断、如何保护不同群体,都不只是性能问题。书中列举ISO、IEEE等组织及A.I. Verify等历史工具,说明从原则转向可检查过程的努力,但列名不证明组织当前状态或合规充分性。

标准先定边界:进一步解释本单元的这一机制及边界。

标准含有价值选择:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

标准基础与治理原则

标准体系的基础部分先统一术语、角色、架构和基本要求,再支持领域标准。若参与者对“可信”“安全”等词理解不同,后续测试难以比较。治理原则则把和谐、公平、包容、隐私、可控、责任、协作和敏捷治理放在生命周期内。

原则之间存在现实权衡:数据共享要与隐私及撤销机制一起设计,创新需要及时识别风险,透明性要服务审核和追溯。原则声明不等于执行到位,应继续转为过程、证据和责任。各组织分工与法律进度作为本书历史描述,不能用作现行制度查询。

治理原则贯穿生命周期:进一步解释本单元的这一机制及边界。

原书依据 · 1 处

成熟度评估与风险评估流程

模块分类覆盖不同对象:支撑层提供环境,数据模型层约束学习过程,系统层保障运行,伦理层约束价值,评测层形成证据,管理服务层维持运营,应用层适配场景。分类不能替代具体适用性判断。

数据安全成熟度评估先明确目标和适用过程,再检查组织岗位、制度执行、技术工具及人员能力,比较差距并制定改进。复杂组织可分部门实施,但要明确总体范围与责任。书中等级建议属于所引模型的历史使用说明。

风险评估则围绕对象的资产、威胁、脆弱性与后果,依据真实充分材料选择适配方法,将结果与可接受准则比较,再提出控制。评分本身不消除风险,只有对策落实与反馈才形成管理。

成熟度评估查四种能力:进一步解释本单元的这一机制及边界。

风险评估连接识别与对策:进一步解释本单元的这一机制及边界。

图8-1把成熟度等级、数据生命周期过程域及组织制度工具人员四种能力交叉起来,图8-2再以目标—范围—评估—差距—改进形成循环。表8-1至表8-7为历史标准目录;编号和“已发布”只对原书时点有效。

原书依据 · 2 处

风险方法与指标构建的取舍

专家定性评估易实施但受经验影响,数值方法便于比较却仍依赖赋值和模型。故障树从结果向原因追溯,决策树比较方案及可能后果,模糊评价用隶属程度表达难以明确划界的判断,AHP将层级问题通过成对比较赋权。量化不自动消除主观性。

指标不是越多越好,应同时覆盖技术可靠、鲁棒、可解释、可控、公平、隐私和责任。可先头脑风暴提出,再由独立专家意见筛选,最后分层确定权重。综合归纳、按属性分类及逐步回归是补充办法;统计筛选只说明样本内关系,不能替代风险含义。管理权限和人员行为也要与模型数据一起识别。

评估方法匹配证据类型:进一步解释本单元的这一机制及边界。

故障树从后果回溯原因:进一步解释本单元的这一机制及边界。

AHP将比较转为层次权重:进一步解释本单元的这一机制及边界。

模糊评价表达程度差异:进一步解释本单元的这一机制及边界。

决策树比较方案后果:进一步解释本单元的这一机制及边界。

专家筛选需保留独立意见:进一步解释本单元的这一机制及边界。

风险评估指标:进一步解释本单元的这一机制及边界。

原书依据 · 7 处

权重、预警与不确定推理

通用指标需按行业调整,金融与驾驶的后果和控制条件不同。案例把模型、数据隐私、管理和应用环境分层,经专家成对比较、几何平均和一致性检验得到权重。检查逻辑协调不能证明现实风险因果,也不能用固定权重替代后续场景判断。

预警将评估体系转为随时间观察风险情景和触发防范。灰色关联比较变化曲线形态,可信度因子表示对证据和规则的信任,事件树从初始事件展开后果,概率神经网络作分类,BP用前向输出与反向误差调整参数。各种方法并列,不是必须依次执行的链条,原文关于普遍准确与无矛盾的说法需保留限制。

指标应按场景增减:进一步解释本单元的这一机制及边界。

一致性检验不证明真实:进一步解释本单元的这一机制及边界。

灰色关联比较变化形态:进一步解释本单元的这一机制及边界。

可信度因子并非概率:进一步解释本单元的这一机制及边界。

事件树从起因展开后果:进一步解释本单元的这一机制及边界。

BP学习传递输出与误差:进一步解释本单元的这一机制及边界。

图示计算以行元素几何平均形成权重并归一化,案例准则权重约为0.4142、0.2608、0.1685、0.1564;最大特征值约4.0146,CI约0.0049,RI取0.90,CR约0.0054。它展示算法步骤,不证明权重适用于所有场景。

原书依据 · 6 处

分级预警与审慎监管

预警需要把风险度量映射为等级和行动。书中列出从轻警到巨警的五级,但等级须与具体场景和阈值对应;可能性与严重后果也不能混为一项。没有责任人和响应动作的颜色或分数不构成有效预警。

审慎监管把安全视为持续发展的条件,也允许技术进步反过来改善安全。它要求按证据更新限制与控制,既不因创新愿景省略风险,也不把所有不确定性都当作禁止应用的理由。

预警闭环:进一步解释本单元的这一机制及边界。

审慎监管平衡:进一步解释本单元的这一机制及边界。

表8-18示例按安全评分从高到低划分:轻警(80,100]、低警(60,80]、中警(40,60]、重警(20,40]、巨警[0,20],信号依次绿、蓝、黄、橙、红。分数越高越安全,不能误读成越高风险越大;阈值是案例方案,非现行强制规则。

原书依据 · 2 处

人工智能法律伦理

伦理判断的不同层次

伦理追问什么行为正当及理由,法律以组织化规则与制裁约束行为。两者共同影响人工智能,技术设计也包含目标与利益选择。元伦理学追问道德价值是否客观、判断是否表达事实以及道德知识如何可能;规范伦理学则直接提出行为标准。

后果主义重视结果,义务论重视不能随收益让步的原则,美德伦理重视行动者品质,关怀伦理重视相互依赖关系。它们提示不同方面,没有一个只靠效率就自动解决全部问题。

应用伦理可以从一般原则推向情景,也可以由典型案例类比,或反复调整直觉、原则和案例达到反思平衡。人工智能情景可能挑战既有分类,需要公开说明推理途径。第9章有时以通用任务能力界定强人工智能,与第4章强调意识并不完全一致,笔记按各段定义理解,不将两者等同。

伦理法律互补:进一步解释本单元的这一机制及边界。

元伦理追问判断性质:进一步解释本单元的这一机制及边界。

伦理理论关注不同面向:进一步解释本单元的这一机制及边界。

反思平衡连接原则案例:进一步解释本单元的这一机制及边界。

原书依据 · 4 处

前瞻伦理评估与双轮驱动

伦理评估对象应包含直接和间接受影响者,不只看购买者。参与讨论者也应超出研发与专家,纳入知情公众。采集评估资料本身仍须保护隐私,不能为治理而无边界获取数据。

现实产品伤害与基于强智能假设的未来风险需要分别标注。优化共生设计只是探索性框架,不是成熟公认结论。自主性是系统能多大程度独立行动,道德敏感性是行动涉及多强的伦理权衡:简单医疗伦理工具也可能高度敏感。研发因此要从单纯经济推动转向经济和价值共同约束。

价值双轮驱动:进一步解释本单元的这一机制及边界。

自主性不同于道德敏感性:进一步解释本单元的这一机制及边界。

伦理评估区分现实与预测:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

多层伦理风险框架

伦理风险不能只用总收益覆盖所有主体。评估分别检查个体尊严与同意、社群关系、商业组织以及自然环境,再说明负面影响在何种条件下产生、谁承担责任、如何应对。原则冲突或文化差异需要明确辩护权重。

这套优化共生框架试图超越只看人类终端用户的范围,同时承认当前制品并非完整道德主体。它是开放、前瞻的研究方案,不是已被证明完备的普遍标准。就业、隐私、偏见和欺骗等实际问题也无需等待严格强智能实现才治理。

伦理风险需说明条件与主体:进一步解释本单元的这一机制及边界。

表9-1分别列出隐私、情感依赖、人格尊严、自主性、社群信任、文化多样性、公平分配、商业误用及生态资源等风险,并要求告知、角色澄清、监督、权责与环境评估。它将隐患与发生条件分列,说明伦理判断不能脱离交互场景。

原书依据 · 1 处

护理中的关怀关系与伦理身份

护理不只是完成洗浴、搬运等功能,还涉及情感与社交。关怀伦理从人的依赖关系出发,以识别需求、愿意负责、具备技能、沟通响应四要素评估。机器能完成任务,并不证明它能替代所有人际关怀。

护理机器人需清楚定位角色、易用并告知限制,同时控制识别需求所需的个人信息。拟人化可能让脆弱用户误解机器的意识与情感,单一机器互动也可能挤压多样人际关系;这些风险需具体研究,不能据转述作医学疗效结论。

伦理身份再追问:理性、自主选择、感受痛苦或生态价值中,哪些构成道德关切基础?这些基础在机器上的适用性仍有争议,不宜从外观或功能直接授予或否定全部权利责任。

关怀检查四种实践能力:进一步解释本单元的这一机制及边界。

人机伦理关系:进一步解释本单元的这一机制及边界。

道德地位需要独立理由:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

工程自主与道德自主之别

工程自主允许不同程度地独立完成给定目标,康德意义的自主还要求为自身立法、出于道德动机遵守,因此前者不足以直接证明人格。责任实践又要求赞扬、谴责和奖惩有意义,理性能力与接受责任并非自动绑定。

机器模拟痛苦表情也不能证明有痛苦体验,本书对未来是否可体验的否定属于哲学立场,笔记不写成已经实验排除。即使人格尚无共识,机器介入关怀、目标冲突和社会关系,仍能成为影响伦理生活的“道德因子”,需要交互规范。

工程自主不等于道德自主:进一步解释本单元的这一机制及边界。

责任还需回应归责实践:进一步解释本单元的这一机制及边界。

道德因子不等于完整主体:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

优化共生与法律议题

优化共生从整体善出发,以多元、自然、正义和繁荣四个方向引导,再对应人权、责任、透明、防滥用与共生繁荣五项目标。它像价值指南针,需要在具体语境中辩护,不是直接演绎所有规则的公理。

治理可把政府刚性规则与社会专业力量的柔性尝试结合,允许修正,但不能把灵活当作免除责任。法律侧需分别讨论主体资格、算法约束、侵权分配、机器与人权关系、知识产权和社会影响。书中案件和法律判断均是历史讨论;不据此给当前创作归属或诉讼责任建议。

优化共生设计:进一步解释本单元的这一机制及边界。

柔性治理需连接刚性责任:进一步解释本单元的这一机制及边界。

法律议题应分别界定:进一步解释本单元的这一机制及边界。

原书依据 · 3 处

立法、适用与伦理的协同

新技术早期,社会关系与权益边界尚不清晰,单行规范常分别促进发展或保障安全,协调难度较大。随着应用和认识成熟,治理有机会更精细。这里是一般模式,不意味着风险随时间必然消失。

立法建立普遍规则,稳定但可能滞后并固化关系;法律适用通过个案、解释和执法回应具体问题,较灵活但必须受已有规范和权限约束。伦理以自律和社会评价补充,职业共同体还可形成具体组织与规则。三种手段有重合和冲突,需要明确各自职责。

立法与适用分工协作:进一步解释本单元的这一机制及边界。

职业伦理支持具体治理:进一步解释本单元的这一机制及边界。

原书依据 · 2 处

多种规制工具的收束

伦理讨论需要给专家、技术人员、投资者与公众表达空间,政策可随风险和发展调整,法律则提供较稳定的强制边界。对尚无共识的问题可以保留有限弹性,通过有边界的试点和纠纷经验改进一般规则。

全章最终把技术、伦理与法律连成治理关系。技术修复很重要,但利益分配和责任不能只靠技术进步自动解决。书中“技术问题最终依靠技术进步”的总结应与前文多元治理并读。参考文献登记保留检索入口,不代表本次阅读外部作品。

责任可追溯:进一步解释本单元的这一机制及边界。

原书依据 · 1 处

跨章综合

全书的主张是:人工智能安全必须同时看系统是否正确工作,以及工作结果是否伤害其他主体。数据、模型和目标函数形成内在行为条件,平台提供受控执行的载体,应用场景决定错误会转化为什么后果,产业链决定持续供应和修复能力,标准、伦理与法律再界定可接受边界与责任。

第2章的完整性度量回答“是否偏离可信基准”,第6章的鲁棒性回答“面对限定扰动是否仍能正确判断”,第8章的风险评估回答“可能性、后果与措施是否可接受”,第9章的伦理讨论回答“目标与利益分配有何正当理由”。四种证据相互支持,但不能互相替代:未被篡改的模型仍可能有偏见,准确的攻击系统仍可能危害他人,逻辑一致的评分仍可能遗漏重要群体。

无人系统、智能制造和城市体现数字输出接到物理行动后的后果放大。它们共同需要控制链、运行观察和恢复能力,但场景并不相同。协同集群还引入信息传播、拓扑变化与长期演化,局部正常无法证明整体安全。云边与芯片生态讨论进一步提醒,实际可靠运行依赖软件、存储、通信、工具及维护,不由峰值算力单独决定。

可迁移的实践顺序是:说清任务与受影响者;识别数据、模型、载体和协作边界;定义威胁及可接受准则;收集可回溯证据;把异常连接到停止、复核、修正和恢复。此顺序是读者综合,不是本书给出的统一执行算法。技术假说、规范主张、历史统计和现行事实分开使用。

保留原有高信息浓度/高稳定性评级:主体的风险分类、可信链、生命周期控制和多元治理具有稳定迁移价值。政策目录、市场规模、产品参数、专家预测和强智能意识主张均有明显时点或假设限制,已在单元中注明;不能把它当成当前标准、法律或产品选型指南。

发散与实践

读者延伸:把全书的输入质量、可追溯解释和预警闭环用于本地读书笔记。保留三项实践计划:输入质量门、结果依据记录、来源缺失预警演练。它们分别控制错误进入、解释取舍过程、明确停止与恢复条件。

三项均已完成计划交付,尚未执行现实演练或宣称产生实测改善。实际输入限定为本地公开书籍资料与人工构造的来源缺失测试项;不采集额外个人信息。完整操作、产出与验收条件见概览中的ideas链接。

生成进度与管理记录

人工智能安全

Skill 版本:v24(当前完整解析;首次v6见下方历史记录,2026-11-14修正导入字段格式)。

当前解析 Skill 版本:book-notes v24(2026-11-14;book-workflow v4)。

执行模式:light

以下首次v6评级与进度保留为历史记录;本轮状态以“v24完整处理”区块为准。

历史首次 Skill 版本:v6(2026-08-27 按 v6 规则续补;既有阶段一至三记录与卡片保留)

整体评级

四象限结论:经典原理(高信息浓度 + 高稳定性)

评级理由: 本书围绕人工智能安全的基本范畴展开,不只是罗列应用案例,而是把安全问题拆成内生安全与衍生安全两类,并进一步从技术、标准、产业生态、伦理、法律等层面讨论治理路径。第1章用数据质量、模型不可解释性、鲁棒性、对抗攻击等说明 AI 系统为什么会产生不同于传统工程系统的安全问题;第2章以可信计算解释如何从启动、运行、存储、审计和交互过程建立可信链;第6章把 AI 与网络攻防结合,分析智能化恶意软件、密码攻击、钓鱼、僵尸网络、投毒攻击及对抗样本等机制;第8章和第9章则把标准、风险评估、预警、伦理与法律治理纳入同一安全治理框架。

书中包含一些与特定年份、标准组织、产业市场规模相关的材料,这些事实会随时间变化,但它们主要服务于解释风险分类、治理结构和安全可控的判断逻辑。整体来看,本书更像一张人工智能安全的问题地图和治理框架,而不是绑定某个工具版本的速查手册。

章节进度追踪

章节号 章节标题 精读/略读 状态(pending/done) 卡片数
1 概述 精读 done 4
2 可信计算保障人工智能安全 精读 done 4
3 无人系统安全 精读 done 4
4 基于类脑计算的强人工智能及其安全 精读 done 4
5 智能制造和智能城市中的人工智能应用安全 精读 done 4
6 网络安全 精读 done 5
7 人工智能安全可控的产业生态建设 精读 done 4
8 人工智能安全标准与风险评估预警 精读 done 4
9 人工智能法律伦理 精读 done 5

章节筛选说明

  • 第1章《概述》:定义人工智能安全边界、内生/衍生安全和治理路径,是全书概念底座。
  • 第2章《可信计算保障人工智能安全》:把可信计算用于 AI 平台启动、运行、存储、审计和数据交互,具有工程架构价值。
  • 第3章《无人系统安全》:将无人驾驶和多无人系统协同的工程风险、社会风险和治理策略连在一起,适合沉淀跨域风险卡片。
  • 第4章《基于类脑计算的强人工智能及其安全》:讨论强人工智能实现路径、时间预测、潜在风险与预防策略,属于高稳定性前沿框架。
  • 第5章《智能制造和智能城市中的人工智能应用安全》:覆盖智能制造、智能城市的典型场景、风险来源和安全技术体系,具有行业迁移价值。
  • 第6章《网络安全》:系统分析 AI 加持的网络攻击、防御、对抗样本和研究方向,专业浓度最高之一。
  • 第7章《人工智能安全可控的产业生态建设》:从算法、算力、数据、产业链解释安全可控,虽然带有政策语境,但框架可迁移。
  • 第8章《人工智能安全标准与风险评估预警》:把标准体系、风险评估流程、指标和预警机制连接起来,适合形成治理方法卡片。
  • 第9章《人工智能法律伦理》:讨论伦理风险、强 AI 伦理身份、治理原则和法律责任,是技术治理之外的重要安全维度。

实践卡进度

序号 实践标题 实践方式 状态(pending/done) 关联章节 产出
001 为模型输入建立质量门 真实任务 done 01 一份输入来源与异常检查表
002 为自动化结果保留可解释记录 真实任务 done 04 一份结果—依据—复核记录
003 做一次安全风险预警演练 决策实践 done 08 一份风险分级与升级清单

未采用的候选:复现密码猜测、钓鱼、投毒或对抗攻击方法;这些会增加滥用风险,不属于防御性读书实践。

2026-11-14 v24完整处理

本次执行版本:book-workflow v4 / book-notes v24;执行模式:light。保留首次v6,旧done不代替当前覆盖。

建档进度:done

整书笔记为当前讲解及定位真源;覆盖记录逐单元更新。

章节号 章节标题 状态 卡片数
-1 内容简介 done 0
0 前言 done 2
1 概述 done 17
2 可信计算保障人工智能安全 done 13
3 无人系统安全 done 17
4 基于类脑计算的强人工智能及其安全 done 20
5 智能制造和智能城市中的人工智能应用安全 done 13
6 网络安全 done 29
7 人工智能安全可控的产业生态建设 done 26
8 人工智能安全标准与风险评估预警 done 20
9 人工智能法律伦理 done 20
本轮非正文排除
spine项 类型 排除理由
1 EPUB/xhtml/cover.xhtml 封面/版权 仅身份、人员与出版信息,无实质论述
2 EPUB/xhtml/Copyright.xhtml 封面/版权 仅身份、人员与出版信息,无实质论述
4 EPUB/xhtml/Section0001_0002.xhtml 编委名单 仅身份、人员与出版信息,无实质论述
本轮待关联术语
术语名 出现章节 一句话语境
联邦学习 1 此处仅列为跨机构研发技术,具体泄露边界由下单元处理
迁移学习 1 跨机构协作技术提名,未展开流程
防御蒸馏 1 作为增强鲁棒性的方法提名,未解释机制
模型正则化 1 作为防御技术提名,未展开具体形式
TPM 2 可信计算2.0代表技术,未展开内部接口
PCR 2 存储并单向扩展度量状态的寄存器;本节未展开硬件细节
Cronbach’s α 3 量表内部一致性指标,原文给结果而未推导公式
KMO与Bartlett检验 3 探索性因子分析适用性检查,未展开算法
AVE与CR 3 收敛效度和组合信度评估指标,未推导
群体智能 3 此处作为规划领域提名,后续安全分析再展开
主动学习 3 高级机器学习方向清单,未展开方法
综合集成研讨厅建模法 3 作为复杂巨系统建模思路提名,未展开实施流程
BrainScaleS 4 神经形态研究系统,参数为历史描述
SpiNNaker 4 大规模神经仿真系统,未展开实现
天机芯片 4 混合神经计算研究实例
达尔文芯片 4 脉冲网络芯片研究实例
ReLU 4 基础网络模块提名,未展开函数
批归一化 4 作为标准化基础模块示例,未解释机制
MES 5 制造执行系统作为攻击载体提名
HMI 5 人机接口漏洞载体提名
分箱法 5 作为噪声处理方法列名,未展开分组算法
聚类法 5 作为噪声处理方法列名,未展开实现
回归法 5 作为噪声处理方法列名,未解释建模选择
Web应用截图嵌入 6 本节介绍距离判别用途,作为表征技术在正文说明,不另推导网络结构
FGSM 6 本节列举梯度类对抗方法,未保留操作实现
JSMA 6 稀疏像素扰动方法提名
DeepFool 6 近似最小扰动用于鲁棒性评估
ZOO 6 通过查询估计梯度的思路提名
模糊测试 6 作为安全性分析增强方向列名
动态污点分析 6 程序信息流跟踪的研究方向
安全策略迁移 6 迁移学习降低跨平台策略部署成本的方向
BSP 7 基础平台驱动与适配能力
MLU 7 本书人工智能处理单元名称,未给统一接口定义
指标属性分类法 8 按动态静态、绝对相对等属性组织候选指标
逐步回归法 8 依据样本相关性逐步筛选变量,具体统计实现未展开
概率神经网络 8 基于贝叶斯最小风险准则的监督分类网络,径向基网络分支
道德实在论与非实在论 9 分别讨论价值是否客观存在的理论立场
错误论与非认知主义 9 分别认为道德事实陈述错误,或认为其不承担表征事实职责
本轮引用文献
标题 类型 出现章节 一句话语境
DENDRAL 框架 1 专家系统早期历史例子,未展开具体实现
AlexNet 论文 1 图像识别突破的历史标记,未展开网络结构
人工智能安全框架(2020年) 框架 1 自动驾驶与基础设施风险分类依据
人工智能与国家安全 论文 1 国家安全影响讨论的历史报告
未来简史 书 1 就业替代预测的引用来源
Artificial Intelligence Accident Database 框架 1 书中用于汇集事故类型,计数仅对应2021年时点
阿西洛马人工智能原则 框架 1 仅作为降低未来风险的规范提名
致命性自主武器宣言 框架 1 关于研究者承诺的历史声明
中国信息通信研究院安全研究所.人工智能安全白皮书(2018年)[R/OL].(2018-09)[2021-08-17]. 论文 1 原书参考文献第1条;只登记检索信息,未读外部全文
方滨兴.人工智能安全[M].北京:电子工业出版社,2020. 书 1 原书参考文献第2条;只登记检索信息,未读外部全文
清华大学人工智能研究院,清华—中国工程院知识智能联合研究中心,中国人工智能学会.人工智能发展报告2011—2020[R/OL].(2021-06-08)[2021-10-06]. 论文 1 原书参考文献第3条;只登记检索信息,未读外部全文
中国电子信息产业发展研究院(赛迪研究院),人工智能产业创新联盟.人工智能实践录[M].北京:人民邮电出版社,2020. 书 1 原书参考文献第4条;只登记检索信息,未读外部全文
《人工智能读本》编写组.人工智能读本[M].北京:人民出版社,2019. 书 1 原书参考文献第5条;只登记检索信息,未读外部全文
图灵人工智能.方滨兴院士:人工智能安全之我见[EB/OL].(2020-06-15)[2022-03-20]. 论文 1 原书参考文献第6条;只登记检索信息,未读外部全文
WU F,LU C,ZHU M,et al. Towards a new generationof artificial intelligence in China[J]. Nat Mach Intell,2020,2:312-316. 论文 1 原书参考文献第7条;只登记检索信息,未读外部全文
潘云鹤.人工智能2.0与教育的发展[J].中国远程教育,2018(5):5-8,44. 论文 1 原书参考文献第8条;只登记检索信息,未读外部全文
RICHARD.人工智能教育(包括智适应机器学习模型)存在的风险[EB/OL].(2021-03-18)[2022-03-20]. 论文 1 原书参考文献第9条;只登记检索信息,未读外部全文
潘云鹤.经济向智能化转型的若干模式[N].中国信息化周报,2019-05-20. 论文 1 原书参考文献第10条;只登记检索信息,未读外部全文
中国信息通信研究院安全研究所.人工智能安全框架(2020年)[R/OL].(2020-12)[2021-08-17]. 论文 1 原书参考文献第11条;只登记检索信息,未读外部全文
企鹅号-霍尔斯医疗.人工智能在医疗领域的应用风险很大[EB/OL].(2019-06-13)[2022-01-23]. 论文 1 原书参考文献第12条;只登记检索信息,未读外部全文
盘冠员.人工智能发展应用中的安全风险及应对策略[J].中国国情国力,2019(2):65-67. 论文 1 原书参考文献第13条;只登记检索信息,未读外部全文
信息安全与通信保密杂志社.美国军事人工智能发展及其安全问题的思考[EB/OL].(2021-11-17)[2022-01-20]. 论文 1 原书参考文献第14条;只登记检索信息,未读外部全文
黄乐平,赵悦媛,余熠.科技行业:俄乌战争中的高科技[EB/OL].(2022-03-25)[2022-04-01]. 论文 1 原书参考文献第15条;只登记检索信息,未读外部全文
华为技术有限公司.AI安全白皮书[R/OL].(2019-09-19)[2022-03-29]. 论文 1 原书参考文献第16条;只登记检索信息,未读外部全文
ION S,DAWN S,RALUCA A P,et al.A Berkeley Viewof Systems Challenges for AI[J].arXiv:1712.05855,2017. 论文 1 原书参考文献第17条;只登记检索信息,未读外部全文
AMODEI D,OLAH C,STEINHARDT,J et al. Concrete Problems in AI Safety[J].arXiv:1606.06565,2016. 论文 1 原书参考文献第18条;只登记检索信息,未读外部全文
NAVEEN A,AJMAL M. Threatof Adversarial Attackson Deep Learning in Computer Vision:A Survey[J].IEEE ACCESS,2018,6:14410-14430. 论文 1 原书参考文献第19条;只登记检索信息,未读外部全文
NICHOLAS C,DAVID W. Towards Evaluating the Robustnessof Neural Networks [J].IEEE Symposiumon Security and Privacy,2017:39-57. 论文 1 原书参考文献第20条;只登记检索信息,未读外部全文
IEEE. Ethically Aligned Design:A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems,First Edition[S]. The IEEE Global Initiativeon Ethicsof Autonomous and Intelligent Systems,2019. 论文 1 原书参考文献第21条;只登记检索信息,未读外部全文
KENG S,WEIYU W. Artificial Intelligence (AI) Ethics:Ethicsof AI and Ethical AI[J]. Journalof Database Management,2020,31(2):74-87, 论文 1 原书参考文献第22条;只登记检索信息,未读外部全文
EMANUELLE B,JUDY G,SVEN K,et al. Ethical Considerations in Artificial Intelligence Courses[J].AI Magazine,2017,38(2):22-34. 论文 1 原书参考文献第23条;只登记检索信息,未读外部全文
国家新一代人工智能治理专业委员会.新一代人工智能伦理规范[S/OL].(2021-09-25)[2022-04-21]. 论文 1 原书参考文献第24条;只登记检索信息,未读外部全文
谭铁牛.人工智能的创新发展与社会影响[EB/OL].(2018-10-29)[2021-11-21]. 论文 1 原书参考文献第25条;只登记检索信息,未读外部全文
朱敏,纪雯雯,高春雷,等.人工智能与劳动力市场变革:机遇和挑战[J].教育经济评论,2018,3(2):23-35. 论文 1 原书参考文献第26条;只登记检索信息,未读外部全文
陈明真.人工智能就业影响及研究进展[J].中国经贸导刊(中),2020,971(6):183-180. 论文 1 原书参考文献第27条;只登记检索信息,未读外部全文
MARCIN S. Economic impacts of artificial intelligence (AI)[J]. European Parliamentary Research Service,2019. 论文 1 原书参考文献第28条;只登记检索信息,未读外部全文
HENRY K,ERIC S,DANIEL H. The Metamorphorsis[J]. The Atlantic,2019. 论文 1 原书参考文献第29条;只登记检索信息,未读外部全文
GREG A,TANIEL C. Artificial Intelligence and National Security[J]. Belfer Center for Science and International Affairs,2017. 论文 1 原书参考文献第30条;只登记检索信息,未读外部全文
ROMAN V. Artificial Intelligence Safety and Security[M]. Boca Raton:CRC Press,2019. 书 1 原书参考文献第31条;只登记检索信息,未读外部全文
LINARDATOS P,PAPASTEFANOPOULOS V,KOTSIANTIS S. Explainable AI:A Reviewof Machine Learning Interpretability Methods[J]. Entropy,2021,23:18. 论文 1 原书参考文献第32条;只登记检索信息,未读外部全文
ALEJANDRO B A,NATALIA D R,JAVIER D S,et al. Explainable Artificial Intelligence (XAI):Concepts,Taxonomies,Opportunities and Challenges Toward Responsible AI[J]. Information Fusion,2020,58:82-115. 论文 1 原书参考文献第33条;只登记检索信息,未读外部全文
CYNTHIA R. Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead[J]. Nature Machine Intelligence,2019,1:206-215. 论文 1 原书参考文献第34条;只登记检索信息,未读外部全文
STUART R. Human Compatible:Artificial Intelligence and the Problemof Control[J]. Penguin Random House,2019. 论文 1 原书参考文献第35条;只登记检索信息,未读外部全文
ROMAN V. Yampolskiy (2014):Utility function security in artificially intelligent agents[J]. Experimental&Theoretical Artificial Intelligence,2014. 论文 1 原书参考文献第36条;只登记检索信息,未读外部全文
TOM E,MARCUS H. Avoiding Wireheading with Value Reinforcement Learning[J]. Artificial General Intelligence,2016. 论文 1 原书参考文献第37条;只登记检索信息,未读外部全文
CHRISTIAN S,WOJCIECH Z,ILYA S,et al. Intriguing propertiesof neural networks[J].arXiv:1312.6199v4,2014. 论文 1 原书参考文献第38条;只登记检索信息,未读外部全文
SEYED M M D,ALHUSSEIN F,PASCAL F. DeepFool:A simple and accurate method tofool deep neural networks[C].2016 IEEE Conferenceon Computer Vision and Pattern Recognition,2016:282. 论文 1 原书参考文献第39条;只登记检索信息,未读外部全文
李欣姣,吴国伟,姚琳,等.机器学习安全攻击与防御机制研究进展和挑战[J].软件学报,2021,32(2):18. 论文 1 原书参考文献第40条;只登记检索信息,未读外部全文
ANH N,JASON Y,JEFF C. Deep Neural Networks are Easily Fooled:High Confidence Predictions for Unrecognizable Images[C].2015 IEEE Conference on Computer Vision and Pattern Recognition,2015. 论文 1 原书参考文献第41条;只登记检索信息,未读外部全文
SEYED M M D,ALHUSSEIN F,OMAR F,et al. Universal Adversarial Perturbations[C].2017 IEEE Conferenceon Computer Vision and Pattern Recognition 2017:1765-1773. 论文 1 原书参考文献第42条;只登记检索信息,未读外部全文
纪守领,杜天宇,李进锋,等.机器学习模型安全与隐私研究综述[J].软件学报,2021,32(1):27. 论文 1 原书参考文献第43条;只登记检索信息,未读外部全文
GOODFELLOW I J,JONATHON S,CHRISTIAN S. Explaining and Harnessing Adversarial Examples[J].arXiv:1412.6572,2015. 论文 1 原书参考文献第44条;只登记检索信息,未读外部全文
ALEKSANDER M,ALEKSANDAR M,LUDWIG S. Towards Deep Learning Models Resistant toAdversarial Attacks[C]. International Conferenceon Learning Representation,2018. 论文 1 原书参考文献第45条;只登记检索信息,未读外部全文
RUIQI G,TIANLE C,HAOCHUAN L,et al. Convergence of Adversarial Training in Overparametrized Neural Networks[C].33rd Conference on Neural Information Processing Systems,2019:1-12. 论文 1 原书参考文献第46条;只登记检索信息,未读外部全文
NICOLAS P,PATRICK M D,XI W,et al. Distillation as a Defense toAdversarial Perturbations against Deep Neural Networks[C].2016 IEEE Symposiumon Security and Privacy,2016:583-597. 论文 1 原书参考文献第47条;只登记检索信息,未读外部全文
GU S X,LUCA R. Towards Deep Neural Network Architectures Robust to Adversarial Examples[J].arXiv:1412.5068,2015. 论文 1 原书参考文献第48条;只登记检索信息,未读外部全文
李盼,赵文涛,刘强,等.机器学习安全性问题及其防御技术研究综述[J].计算机科学与探索,2018,12(2):171-1840. 论文 1 原书参考文献第49条;只登记检索信息,未读外部全文
CHEN,X Y,LIU C,LI B,et al. Targeted Backdoor Attackson Deep Learning Systems Using Data Poisoning[J].arXiv:1712.05526,2017. 论文 1 原书参考文献第50条;只登记检索信息,未读外部全文
BIGGIO B,CORONA I,MAIORCA D,et al. Evasion attacks against machine learning at testtime[C]. European conferenceon machine learning,2013:387-402. 论文 1 原书参考文献第51条;只登记检索信息,未读外部全文
REZA S,MARCO S,CONGZHENG S,et al. Membership Inference Attacks Against Machine Learning Models[C].2017 IEEE Symposiumon Security and Privacy,2017,41:22-26. 论文 1 原书参考文献第52条;只登记检索信息,未读外部全文
CHEN D,YU N,ZHANG Y,et al.GAN-Leaks A Taxonomyof Membership Inference Attacks against Generative Models[C].ACM SIGSAC Conferenceon Computing and Communication Security,2020. 论文 1 原书参考文献第53条;只登记检索信息,未读外部全文
360.360 AI研究院披露TensorFlow 24个漏洞[EB/OL].(2020-09-28)[2022-03-27]. 论文 1 原书参考文献第54条;只登记检索信息,未读外部全文
施文,王楷文,俞成浦,等.多无人系统协同中的人工智能安全探索[J].中国工程科学,2021,23(3):82-89. 论文 1 原书参考文献第55条;只登记检索信息,未读外部全文
MELIS L,SONG C,CRISTOFARO E D,et al. Exploiting unintended feature leakage in collaborative learning[C].2019 IEEE Symposiumon Security and Privacy,2019:691-706. 论文 1 原书参考文献第56条;只登记检索信息,未读外部全文
WEI W,LIU L,LOPER M,et al.A framework for evaluating gradient leakage attacks in federated learning[J].arXiv:2004.10397,2020. 论文 1 原书参考文献第57条;只登记检索信息,未读外部全文
YUAN X Y,MA X Y,ZHANG L,et al. Beyond Class-Level Privacy Leakage:Breaking Record-Level Privacy in Federated Learning[C].IEEE Internetof Things Journal,2021:1-11. 论文 1 原书参考文献第58条;只登记检索信息,未读外部全文
TRAMÈR F,ZHANG F,JUELS A,et al. Stealing Machine Learning Models via Prediction APIs[J].USENIX Security Symposium,2016. 论文 1 原书参考文献第59条;只登记检索信息,未读外部全文
GU T,GAVITT B D,GARG S. Badnets:Identifying vulnerabilities in the machine learning model supply chain[C].NIPS MLSec Workshop,2017. 论文 1 原书参考文献第60条;只登记检索信息,未读外部全文
MATTHEW J,A LINA O,BATTISTA B,et al. Manipulating Machine Learning:Poisoning Attacks and Countermeasures for Regression Learning[C].2018 IEEE Symposiumon Security and Privacy,2018. 论文 1 原书参考文献第61条;只登记检索信息,未读外部全文
HITAJ B,ATENIESE G,PEREZ CRUZ F. Deep models under the GAN:Information leakage from collaborative deep learning[C]. Conference on Computer and Communications Security,2017:603-618. 论文 1 原书参考文献第62条;只登记检索信息,未读外部全文
RUBEN T,RUBEN V R,JULIAN F,et al. DeepFakes and Beyond:A Survey of Face Manipulation and Fake Detection[J]. Information Fusion,2020. 论文 1 原书参考文献第63条;只登记检索信息,未读外部全文
SUWAJANAKORN S,SEITZ S M,SHLIZERMAN Z K. Synthesizing Obama:Learning Lip Sync from Audio[J].ACM Transactionson Graphics,2017-36(4):1-13. 论文 1 原书参考文献第64条;只登记检索信息,未读外部全文
ASILOMAR.AI Principles[EB/OL].(2017-08-11)[2022-04-06]. 论文 1 原书参考文献第65条;只登记检索信息,未读外部全文
NANCY O. Asilomar AI Principles:A framework for human value alignment[EB/OL].(2017-02-06) [2021-12-21]. 论文 1 原书参考文献第66条;只登记检索信息,未读外部全文
AMIT K,ANJANI K.AI and ML in Cybersecurity Risk Management[EB/OL].(2020-12-01) [2022-02-02]. 论文 1 原书参考文献第67条;只登记检索信息,未读外部全文
HENRY K. How the Enlightenment Ends[J]. The Atlantic,2018. 论文 1 原书参考文献第68条;只登记检索信息,未读外部全文
RITHESH K,JOSE S,KUNDAN K,et al. ObamaNet:Photo-realistic lip-sync from text[J].arXiv:1801.01442,2017. 论文 1 原书参考文献第69条;只登记检索信息,未读外部全文
STUART R,DANIEL D,MAX T. Research Priorities for Robust and Beneficial Artificial Intelligence[J].AI MAGAZINE,2015:105-114. 论文 1 原书参考文献第70条;只登记检索信息,未读外部全文
NASR M,SHOKRI R,HOUMANSADR A. Comprehensive privacy analysisof deep learning:Stand-alone and federated learning under passive and active white-box inference attacks[J].IEEE Symposiumon Security and Privacy,2019:1-15. 论文 1 原书参考文献第71条;只登记检索信息,未读外部全文
WEI W Q,LIU L,WU Y H,et al. Gradient-Leakage Resilient Federated Learning[C].2021 IEEE 41st International Conferenceon Distributed Computing Systems,2021. 论文 1 原书参考文献第72条;只登记检索信息,未读外部全文
NICOLAS P,PATRICK M. Extending defensive distillation[J].arXiv:1705.05264,2017. 论文 1 原书参考文献第73条;只登记检索信息,未读外部全文
JEREMY C,ELAN R,et al. Certified Adversarial Robustness via Randomized Smoothing[C]. Proceedingsof the 36th International Conferenceon Machine Learning,2019. 论文 1 原书参考文献第74条;只登记检索信息,未读外部全文
MURDOCH W J,SINGH C,KUMBIER K,et al. Interpretable machine learning:definitions,methods,and applications[J].arXiv:1901.04592,2019. 论文 1 原书参考文献第75条;只登记检索信息,未读外部全文
ACEMOGLU D,RESTREPO P. The wrong kindof AI?Artificial intelligence and the futureof labour demand[J]. Cambridge Journalof Regions,Economy and Society,2020,13(1):25-35. 论文 1 原书参考文献第76条;只登记检索信息,未读外部全文
BARON B,MUSOLESI M. Interpretable machine learning for privacy-preserving pervasive systems[J].IEEE Pervasive Computing,2020,19(1):73-82. 论文 1 原书参考文献第77条;只登记检索信息,未读外部全文
王亦菲,韩凯峰.数字经济时代人工智能伦理风险及治理体系研究[J].信息通信技术与政策,2021,47(2):32-36. 论文 1 原书参考文献第78条;只登记检索信息,未读外部全文
中国信息通信研究院,中国人工智能产业发展联盟.人工智能治理白皮书[R/OL].(2022-09-04)[2022-12-01]. 论文 1 原书参考文献第79条;只登记检索信息,未读外部全文
杨婕.推动完善我国新一代人工智能伦理治理体系[J].信息安全与通信保密,2020(1):93-101. 论文 1 原书参考文献第80条;只登记检索信息,未读外部全文
中国新一代人工智能发展战略研究院.全面融合发展中的中国人工智能科技产业[R].2021. 论文 1 原书参考文献第81条;只登记检索信息,未读外部全文
沈昌祥.用主动免疫可信计算3.0筑牢网络安全防线 营造清朗的网络空间[J].信息安全研究,2018,4(4):282-302. 论文 2 原书参考文献第1条;只登记检索信息,未读外部全文
沈昌祥.离开“封堵查杀”,怎样确保网络安全?[J].信息安全与通信保密,2018(11):13-15. 论文 2 原书参考文献第2条;只登记检索信息,未读外部全文
沈昌祥,石磊,张辉,等.可信计算与可信云安全框架[J].科学与管理,2018,38(2):1-6. 论文 2 原书参考文献第3条;只登记检索信息,未读外部全文
沈昌祥.网络空间安全战略思考与启示[J].金融电子化,2014(6):11-13. 论文 2 原书参考文献第4条;只登记检索信息,未读外部全文
沈昌祥.按照《关键信息基础设施安全保护条例》筑牢网络空间安全底线[J].信息安全研究,2021,7(10):890-893. 论文 2 原书参考文献第5条;只登记检索信息,未读外部全文
沈昌祥.用主动免疫可信计算构筑新型基础设施网络安全保障体系[J].网信军民融合,2020(4):10-13. 论文 2 原书参考文献第6条;只登记检索信息,未读外部全文
吴宏胜.基于可信计算和UEBA的智慧政务系统[J].信息网络安全,2020,20(1):89-93. 论文 2 原书参考文献第7条;只登记检索信息,未读外部全文
沈昌祥.推广安全可信产业 夯实网络安全基础[J].中国工业和信息化,2019(11):28-30. 论文 2 原书参考文献第8条;只登记检索信息,未读外部全文
沈昌祥.用可信计算3.0筑牢网络安全防线[J].互联网经济,2019(8):40-45. 论文 2 原书参考文献第9条;只登记检索信息,未读外部全文
刘茂珍.云存储中支持数据更新的密文块去重协议研究[D].西安:西安电子科技大学,2019. 论文 2 原书参考文献第10条;只登记检索信息,未读外部全文
黄坚会,沈昌祥.TPCM主动防御可信服务器平台设计[J].郑州大学学报:理学版,2019,51(3):6. 论文 2 原书参考文献第11条;只登记检索信息,未读外部全文
陈鹏,秦宇,周云峰,等.面向网络安全等级保护2.0的零信任数据安全技术研究[C].2019中国网络安全等级保护和关键信息基础设施保护大会,2019. 论文 2 原书参考文献第12条;只登记检索信息,未读外部全文
郭煜.可信云体系结构与关键技术研究[D].北京:北京交通大学,2017. 论文 2 原书参考文献第13条;只登记检索信息,未读外部全文
公备.支持可信群体构建的可信网络连接架构及关键技术研究[D].北京:北京工业大学,2012. 论文 2 原书参考文献第14条;只登记检索信息,未读外部全文
梁鹏,宁振虎,沈昌祥.云计算模式下可信虚拟群体运行时可信证明模型[C].2018第七届全国安全等级保护技术大会,2018. 论文 2 原书参考文献第15条;只登记检索信息,未读外部全文
刘国杰,张建标,杨萍,等.基于TPCM的容器云可信环境研究[J].网络与信息安全学报,2021,7(4):164-174. 论文 2 原书参考文献第16条;只登记检索信息,未读外部全文
余祥,张健,李强.基于TPCM的终端数据泄露防护技术研究[C].第六届中国指挥控制大会,2018:194-198. 论文 2 原书参考文献第17条;只登记检索信息,未读外部全文
道德机器研究 论文 3 比较不同地区受试者伦理选择的调查
Nvivo 框架 3 定性编码工具提名,未展开操作
无人系统综合路线图(2017—2042) 框架 3 协同无人系统规划的历史文件
机器人操作的趋势和挑战 论文 3 感知与执行研究的引用
生物神经网络的结构和工作原理研究 论文 3 神经元运动功能预测研究的提名
ROS 源码项目 3 跨平台机器人软件框架,提供接口和可视化以降低集成成本
BEZAI N E,MEDJDOUB B,HABAIBEH A A,et al. Future cities and autonomous vehicles:Analysisof the barriers tofull adoption[J]. Energy and Built Environment,2021,2(1):65-81. 论文 3 原书参考文献第1条;只登记检索信息,未读外部全文
陈帅.无人驾驶汽车安全行驶的三大系统[J].中小企业管理与科技,2018(10):172-173. 论文 3 原书参考文献第2条;只登记检索信息,未读外部全文
丁兆威.车联网与无人驾驶[J].中国公共安全,2017(4):60-62. 论文 3 原书参考文献第3条;只登记检索信息,未读外部全文
冯珏.自动驾驶汽车致损的民事侵权责任[J].中国法学,2018(6):109-132. 论文 3 原书参考文献第4条;只登记检索信息,未读外部全文
胡兵.无人驾驶汽车交通事故侵权责任承担机制研究[D].贵阳:贵州大学,2019. 论文 3 原书参考文献第5条;只登记检索信息,未读外部全文
贾宇涵,马晓春,杜明岗,等.无人驾驶汽车涉水安全的探讨及报警系统的设计[J].科学技术创新,2019(19):91-92. 论文 3 原书参考文献第6条;只登记检索信息,未读外部全文
孟露,张超.无人驾驶汽车交通事故侵权责任主体和归责原则[J].北京化工大学学报(社会科学版),2019(3):42-47. 论文 3 原书参考文献第7条;只登记检索信息,未读外部全文
石方铭.基于VANET的无人驾驶通信协议安全研究[D].南京:南京邮电大学,2017. 论文 3 原书参考文献第8条;只登记检索信息,未读外部全文
袁曾.无人驾驶汽车侵权责任的链式分配机制——以算法应用为切入点[J].东方法学,2019(5):28-39. 论文 3 原书参考文献第9条;只登记检索信息,未读外部全文
庄瑞.基于大中型网络的无人驾驶技术网络安全研究[J].河南财政税务高等专科学校学报,2017,31(2):93-95. 论文 3 原书参考文献第10条;只登记检索信息,未读外部全文
AWAD E,DSOUZA S,KIM R,et al. The moral machine experiment[J]. Nature,2018,563(7729):59-64. 论文 3 原书参考文献第11条;只登记检索信息,未读外部全文
BERGMANN L T,SCHLICHT L,MEIXNER C,et al. Autonomous vehicles require socio-political acceptance-An empirical and philosophical perspective on the problem of moral decision making[J]. Frontiers in Behavioral Neuroscience,2018,12:1-12. 论文 3 原书参考文献第12条;只登记检索信息,未读外部全文
BONNEFON J F,SHARIFF A,RAHWAN I. The social dilemma of autonomous vehicles[J]. Science,2016,352(6293):1573-1576. 论文 3 原书参考文献第13条;只登记检索信息,未读外部全文
杜亮,王海涛.汽车自动驾驶及其发展[J].信息与电脑,2018(1):106-108. 论文 3 原书参考文献第14条;只登记检索信息,未读外部全文
SAE International. Taxonomy and definitions for terms related to driving automation systems foron-road motor vehicles (SAE J3016)[S]. New York:SAE International,2016. 论文 3 原书参考文献第15条;只登记检索信息,未读外部全文
崔理博,赵明非.无人驾驶汽车侵权的责任分析与法律规制[J].齐齐哈尔大学学报(哲学社会科学版),2019(5):82-84. 论文 3 原书参考文献第16条;只登记检索信息,未读外部全文
科宾·J.M.,施特劳斯.质性研究的基础:形成扎根理论的程序与方法[M].朱光明,译.重庆:重庆大学出版社,2015. 书 3 原书参考文献第17条;只登记检索信息,未读外部全文
刘世闵,李志伟.质化研究必备工具:Nvivo10之图解与应用[M].北京:经济日报出版社,2017. 书 3 原书参考文献第18条;只登记检索信息,未读外部全文
窦文悦,胡平,魏平,等.无人驾驶安全风险的识别与度量研究[J].中国工程科学,2021,23(6):167-177. 论文 3 原书参考文献第19条;只登记检索信息,未读外部全文
吴勤.无人系统发展及对国家安全的影响分析[J].无人系统技术,2018,1(2):62-68. 论文 3 原书参考文献第20条;只登记检索信息,未读外部全文
国务院.国务院关于印发新一代人工智能发展规划的通知[EB/OL].(2017-07-08)[2021-04-27]. 论文 3 原书参考文献第21条;只登记检索信息,未读外部全文
中国信息通信研究院安全研究所.人工智能安全框架2020[EB/OL].(2020-12-01)[2021-04-27]. 论文 3 原书参考文献第22条;只登记检索信息,未读外部全文
陈伟光.关于人工智能治理问题的若干思考[J].人民论坛·学术前沿,2017(20):48-55. 论文 3 原书参考文献第23条;只登记检索信息,未读外部全文
杜严勇.人工智能安全问题及其解决进路[J].哲学动态,2016(9):99-104. 论文 3 原书参考文献第24条;只登记检索信息,未读外部全文
王伟嘉,郑雅婷,林国政,等.集群机器人研究综述[J].机器人,2020,42(2):232-256. 论文 3 原书参考文献第25条;只登记检索信息,未读外部全文
The National Science and Technology Council. The national artificial intelligence research and development strategic plan:2019 update [EB/OL].(2019-06-21)[2021-04-27]. 论文 3 原书参考文献第26条;只登记检索信息,未读外部全文
CONGRESS. National artificial intelligence initiative actof 2020 [EB/OL].(2020-03-12)[2021-04-27]. 论文 3 原书参考文献第27条;只登记检索信息,未读外部全文
Congressional Research Service. Artificial intelligence and national security[EB/OL].(2020-11-10)[2021-04-27]. 论文 3 原书参考文献第28条;只登记检索信息,未读外部全文
The White House. Guidance for regulationof artificial intelligence applications[EB/OL].(202011-17)[2020-12-03]. 论文 3 原书参考文献第29条;只登记检索信息,未读外部全文
Council of the European Union. European Coordinated plan on Artificial IntelligenceEB/OL].(2019-02-18)[2020-12-03]. 论文 3 原书参考文献第30条;只登记检索信息,未读外部全文
The High-Level Expert Groupon AI at European Commission. Ethics guidelines for trustworthy AI[EB/OL].(2019-04-08)[2020-12-03]. 论文 3 原书参考文献第31条;只登记检索信息,未读外部全文
叶纯青.欧盟发布无人机通用准则[J].金融科技时代,2019,288(8):89-89. 论文 3 原书参考文献第32条;只登记检索信息,未读外部全文
FARNAZ D,SHAMIM Y.A reviewon the applicationsof multiagent systems in wireless sensor networks[J]. International Journalof Distributed Sensor Networks,2019,15(5):1-19. 论文 3 原书参考文献第33条;只登记检索信息,未读外部全文
王利,王普,闫峥.无人机通信网络安全综述[J].网络空间安全,2019,10(9):13-19. 论文 3 原书参考文献第34条;只登记检索信息,未读外部全文
王宝楠,胡风,张焕国,等.从演化密码到量子人工智能密码综述[J].计算机研究与发展,2019,56(10):2112-2134. 论文 3 原书参考文献第35条;只登记检索信息,未读外部全文
杨强.AI与数据隐私保护:联邦学习的破解之道[J].信息安全研究,2019,5(11):961-965. 论文 3 原书参考文献第36条;只登记检索信息,未读外部全文
刘小垒.基于群体智能进化算法的对抗样本生成研究[D].成都:电子科技大学,2019. 论文 3 原书参考文献第37条;只登记检索信息,未读外部全文
丁俐夫,颜钢锋.多智能体系统安全性问题及防御机制综述[J].智能系统学报,2020,15(3):10. 论文 3 原书参考文献第38条;只登记检索信息,未读外部全文
伍益明.恶意攻击下的多智能体系统安全一致性问题研究[D].杭州:浙江工业大学,2016. 论文 3 原书参考文献第39条;只登记检索信息,未读外部全文
崔朝阳,孙甲琦,徐松艳,等.适用于集群无人机的自组网安全分簇算法[J].山东大学学报(理学版),2018,53(7):51-59. 论文 3 原书参考文献第40条;只登记检索信息,未读外部全文
臧义华,李小娟.基于区块链的无人集群作战信息共享架构[J].指挥控制与仿真,2020,42(4):19-22. 论文 3 原书参考文献第41条;只登记检索信息,未读外部全文
胡娜,万青云,徐良雄,等.快递无人机的推进策略[J].电子技术与软件工程,2019(4):70. 论文 3 原书参考文献第42条;只登记检索信息,未读外部全文
施文,王楷文,俞成浦,等.多无人系统协同中的人工智能安全探索[J].中国工程科学,2021,23(3):82-89. 论文 3 原书参考文献第43条;只登记检索信息,未读外部全文
陈杰.多智能体系统中的几个问题[J].科学中国人,2019(12):38-40. 论文 3 原书参考文献第44条;只登记检索信息,未读外部全文
科学之路 书 4 序言中提出强人工智能候选路径
模拟VLSI与神经系统 书 4 早期类脑工程著作
蓝脑计划 源码项目 4 生物神经网络仿真项目,历史规模仅作研究背景
类脑计算机的现在与未来 论文 4 结构仿脑、器件逼近与智能超越路线依据
全球工程前沿2020 论文 4 类脑发展趋势预测的历史报告
生命3.0 书 4 硬件与软件设计能力的三阶段框架
AI未来 书 4 人工智能应用四波浪潮的讨论
人工智能何时超越人类表现 论文 4 专家时间线预测调查
人工智能安全中的具体问题 论文 4 安全研究范围的历史文献
针对强人工智能安全风险的技术应对策略 论文 4 白盒防控政策建议来源
TrojAI 源码项目 4 用于研究模型污染与后门的项目提名
GOLNARAGHI F,KUO B. Automatic control systems [J]. McGraw Hill Education,2017. 论文 4 原书参考文献第1条;只登记检索信息,未读外部全文
人民教育出版社历史室.世界近代现代史[M].北京:人民教育出版社,2000. 书 4 原书参考文献第2条;只登记检索信息,未读外部全文
MCCARTHY J,MINSKY M,ROCHESTER N,et al.A Proposal for the Dartmouth Summer Research Projecton Artificial Intelligence[J].AI Magazine,1955,27(4):12. 论文 4 原书参考文献第3条;只登记检索信息,未读外部全文
ANDREAS K,MICHAEL H. Siri,Siri,in my hand:Who’s the fairest in the land?On the interpretations,illustrations,and implications of artificial intelligence[J]. Business Horizons,2019,62(1):15-25. 论文 4 原书参考文献第4条;只登记检索信息,未读外部全文
JOHN R S. Minds,brains,and programs[J]. Behavioral&Brain Sciences,1980,3(3):417-424. 论文 4 原书参考文献第5条;只登记检索信息,未读外部全文
刘宇擎,张玉槐,段沛奇,等.针对强人工智能安全风险的技术应对策略[J].中国工程科学,2021,23(3):75-81. 论文 4 原书参考文献第6条;只登记检索信息,未读外部全文
佚名.人工智能发展上的起起落落[J].电子元器件与信息技术,2018,2(5):79-80. 论文 4 原书参考文献第7条;只登记检索信息,未读外部全文
谭铁牛.人工智能的历史、现状和未来[J].智慧中国,2019,38(Z1):87-91. 论文 4 原书参考文献第8条;只登记检索信息,未读外部全文
DANIEL C.AI:The Tumultuous Historyof the Search for Artificial Intelligence[M]. New York:Basic Books,1993. 书 4 原书参考文献第9条;只登记检索信息,未读外部全文
PAMELA MC. Machines WhoThink[M]. London:Taylor and Francis,2004. 书 4 原书参考文献第10条;只登记检索信息,未读外部全文
腾讯研究院,中国信息通信研究院互联网法律研究中心,腾讯AI Lab,等.人工智能[M].北京:中国人民大学出版社,2017. 书 4 原书参考文献第11条;只登记检索信息,未读外部全文
王葳.美国成立人工智能特别委员会 承诺将加大研发力度[J].互联网天地,2018(5):58. 论文 4 原书参考文献第12条;只登记检索信息,未读外部全文
The White House. The Biden Administration Launches the National Artificial Intelligence Research Resource Task Force[EB/OL].(2021-06-10) [2021-12-27]. 论文 4 原书参考文献第13条;只登记检索信息,未读外部全文
郑鑫.上海人工智能发展与领军力量培育[J].科学发展,2019(4):14-25. 论文 4 原书参考文献第14条;只登记检索信息,未读外部全文
胡可慧,陈校云,宋杨杨,等.美国、欧盟、英国、日本和中国医疗人工智能相关政策分析[J].中国数字医学,2019,14(7):34-38. 论文 4 原书参考文献第15条;只登记检索信息,未读外部全文
European Economic and Social Committee. Artificial Intelligence for Europe [EB/OL].(2019-01) [2021-12-27]. 论文 4 原书参考文献第16条;只登记检索信息,未读外部全文
殷佳章,房乐宪.欧盟人工智能战略框架下的伦理准则及其国际含义[J].国际论坛,2020,22(2):18-20. 论文 4 原书参考文献第17条;只登记检索信息,未读外部全文
国家人工智能标准化总体组.人工智能伦理风险分析报告[R].2019. 论文 4 原书参考文献第18条;只登记检索信息,未读外部全文
THORPE G J. The U.K.:Ready,willing,and able[J]. Journalof Palliative Care,1988,4(2):26-28. 论文 4 原书参考文献第19条;只登记检索信息,未读外部全文
刘姣姣,黄膺旭,徐晓林.日本人工智能战略:机构、路线及生态系统[J].科技管理研究,2020,40(12):39-45. 论文 4 原书参考文献第20条;只登记检索信息,未读外部全文
36氪研究院.新基建系列之2020年中国城市人工智能发展指数报告[R].2020. 论文 4 原书参考文献第21条;只登记检索信息,未读外部全文
中华人民共和国国务院.新一代人工智能发展规划(国发〔2017〕35号)[A].2017-07-20. 论文 4 原书参考文献第22条;只登记检索信息,未读外部全文
德勤有限公司.迈向巅峰之路——中国成长型AI企业研究报告[R].2021. 论文 4 原书参考文献第23条;只登记检索信息,未读外部全文
佚名.人工智能与人类的距离还有多远[C]//科学媒介中心2015年推送文章合集(上).2016:236-239. 论文 4 原书参考文献第24条;只登记检索信息,未读外部全文
极客公园.致敬中国互联网三十周年之李飞飞[EB/OL].(2017-12-03)[2021-12-27]. 论文 4 原书参考文献第25条;只登记检索信息,未读外部全文
张钹.走向真正的人工智能[J].卫星与网络,2018(6):24-27. 论文 4 原书参考文献第26条;只登记检索信息,未读外部全文
徐宗本.AI与数学“融通共进”迈向自主智能时代[EB/OL].(2020-06-08)[2021-02-15]. 论文 4 原书参考文献第27条;只登记检索信息,未读外部全文
周志华.关于强人工智能[J].中国计算机学会通讯,2018,14(1):45-46. 论文 4 原书参考文献第28条;只登记检索信息,未读外部全文
黄铁军.也谈强人工智能[J].中国计算机学会通讯,2018,14(2):47-48. 论文 4 原书参考文献第29条;只登记检索信息,未读外部全文
德勤有限公司.全球人工智能发展白皮书[R].2019. 论文 4 原书参考文献第30条;只登记检索信息,未读外部全文
黄铁军.沉迷于寻求通用智能理论,将是阻碍AI发展的最大障碍 Yann LeCun自传《科学之路》序[EB/OL].(2021-08-30)[2021-12-27]. 论文 4
黄铁军.类脑计算机的现在与未来[N].光明日报,2015-12-06(8). 论文 4 原书参考文献第32条;只登记检索信息,未读外部全文
王冲.类脑智能:人工智能发展的另一条路径[J].科学中国人,2019(6):72-73. 论文 4 原书参考文献第33条;只登记检索信息,未读外部全文
HUANG T. Brain-like computing[J]. Computing Now,2016,9(5). 论文 4 原书参考文献第34条;只登记检索信息,未读外部全文
顾宗华,潘钢.神经拟态的类脑计算研究[J].中国计算机学会通讯,2015,11(10):10-20. 论文 4 原书参考文献第35条;只登记检索信息,未读外部全文
MEAD C. Analog VLSI and Neural Systems[M].MA:Addison Wesley,1989. 书 4 原书参考文献第36条;只登记检索信息,未读外部全文
MEROLLA P A,ARTHUR J V,ALVAREZ I R,et al. Artificial brains:A million spiking-neuron integrated circuit with a scalable communication network and interface[J]. Science,2014,345(6197). 论文 4 原书参考文献第37条;只登记检索信息,未读外部全文
MEIER K.A mixed-signal universal neuromorphic computing system [C]//IEEE International Electron Devices Meeting. Piscataway,NJ:IEEE,2015:1-4. 论文 4 原书参考文献第38条;只登记检索信息,未读外部全文
黄铁军,余肇飞,刘怡俊.类脑机的思想与体系结构综述[J].计算机研究与发展,2019,56(6):1135-1148. 论文 4 原书参考文献第39条;只登记检索信息,未读外部全文
中国工程院.全球工程前沿2020[R].2020. 论文 4 原书参考文献第40条;只登记检索信息,未读外部全文
TEGMARK M. Life 3.0:Being human in the ageof artificial intelligence[M]. London:Vintage Classics,2017. 书 4 原书参考文献第41条;只登记检索信息,未读外部全文
李宇.人工智能研发及在传媒领域的应用[J].中国广播,2019(9):36-39. 论文 4 原书参考文献第42条;只登记检索信息,未读外部全文
龙威林.新时代人工智能对职业教育专业格局的影响分析[J].天津职业院校联合学报,2019,21(8):3-6. 论文 4 原书参考文献第43条;只登记检索信息,未读外部全文
朱玉强.其实,AI蕴藏着消除人类险境的密码——读李开复《AI·未来》[N].上海证券报,2018-10-27. 论文 4 原书参考文献第44条;只登记检索信息,未读外部全文
李开复.AI·未来[M].杭州:浙江人民出版社,2018. 书 4 原书参考文献第45条;只登记检索信息,未读外部全文
黄铁军,施路平,唐华锦,等.多媒体技术研究:2015——类脑计算的研究进展与发展趋势[J].中国图象图形学报,2016,21(11):1411-1424. 论文 4 原书参考文献第46条;只登记检索信息,未读外部全文
王宏琳.AI“大问题”:从图灵之问到霍金之忧[EB/OL].(2019-10-21)[2021-12-27]. 论文 4 原书参考文献第47条;只登记检索信息,未读外部全文
王宏琳.通用AI——未来真正强健的人工智能?[EB/OL].(2019-10-11)[2021-12-27]. 论文 4 原书参考文献第48条;只登记检索信息,未读外部全文
搜狐网.AI超越人类编年史,32个AI里程碑全预测.现代服务产业技术创新战略联盟.[EB/OL].(2017-05-29)[2021-12-27]. 论文 4 原书参考文献第49条;只登记检索信息,未读外部全文
GRACE K,SALVATIER J,DAFOE A,et al. When Will AI Exceed Human Performance?Evidence from AI Experts[J]. Artificial Intelligence Research,2017:5. 论文 4 原书参考文献第50条;只登记检索信息,未读外部全文
新智元.通用人工智能何时来?专家预测还需81年![EB/OL].(2018-12-03)[2021-12-27]. 论文 4 原书参考文献第51条;只登记检索信息,未读外部全文
刘晓莹.远非阿尔法狗完胜柯洁那么简单,谷歌在下一盘人工智能的大棋[EB/OL].(2017-05-29)[2021-12-27]. 论文 4 原书参考文献第52条;只登记检索信息,未读外部全文
李晓慧.在有生之年,人类智能就将被超越 专访MIT物理教授泰格马克[EB/OL].(2018-09-29)[2021-12-27]. 论文 4
陶建华,陈云霁.类脑计算芯片与类脑智能机器人发展现状与思考[J].中国科学院院刊,31(7):803-811. 论文 4 原书参考文献第54条;只登记检索信息,未读外部全文
蒲慕明,徐波,谭铁牛.脑科学与类脑研究概述[J].中国科学院院刊,2016,31(7):725-736. 论文 4 原书参考文献第55条;只登记检索信息,未读外部全文
焉知新能源汽车.深度 潘云鹤院士解读:中国新一代人工智能[EB/OL].(2018-02-05)[2021-12-27]. 论文 4
工业4俱乐部.潘云鹤:AI+数字化+网络化把中国信息化推向智能化[EB/OL].(2017-06-30)[2021-12-27]. 论文 4 原书参考文献第57条;只登记检索信息,未读外部全文
KIM B,DOSHI V F. Interpretable machine learning:The fuss,the concrete and the questions[J].ICML Tutorialon interpretable machine learning,2017. 论文 4 原书参考文献第58条;只登记检索信息,未读外部全文
神明的石头.机器可以拥有权利吗?迈克斯·泰格马克《生命3.0》节选[EB/OL].(2021-03-08)[2021-12-27]. 论文 4 原书参考文献第59条;只登记检索信息,未读外部全文
挖链财经.区块链将在人工智能进程中扮演重要角色,解决AI不可控问题[EB/OL].(2018-10-25)[2021-12-27]. 论文 4 原书参考文献第60条;只登记检索信息,未读外部全文
王岩,宋艳玉.强人工智能安全预警研究[J].中国管理信息化,2018,21(20):154-156. 论文 4 原书参考文献第61条;只登记检索信息,未读外部全文
杨明.兼顾人工智能应用和隐私保护[N].人民日报,2019-07-12(9). 论文 4 原书参考文献第62条;只登记检索信息,未读外部全文
吴汉东.人工智能时代的冷思考[J].中国报业,2018(3):60-61. 论文 4 原书参考文献第63条;只登记检索信息,未读外部全文
王焕超.图灵逝世66年后,AI可以自我思考了吗?[J].中国科技财富,2020(6):41-46. 论文 4 原书参考文献第64条;只登记检索信息,未读外部全文
中华人民共和国国务院.国家中长期科学和技术发展规划纲要(2006—2020年)[R/OL].(2006-02-09)[2021-12-27]. 论文 4 原书参考文献第65条;只登记检索信息,未读外部全文
GOOD FELLOW I J,SHLENS J,SZEGEDY C. Explaining and harnessing adversarial examples[J].arXiv preprint arXiv:1412.6572,2014. 论文 4 原书参考文献第66条;只登记检索信息,未读外部全文
HUANG T. Imitating the brain with neurocomputer a “new” way towards artificial general intelligence[J]. International Journalof Automation and Computing,2017,14(5):520-531. 论文 4 原书参考文献第67条;只登记检索信息,未读外部全文
吴沈括,崔鑫铭.人工智能与国家安全的美国视野——美国国会2019年《人工智能与国家安全研究报告》研究[J].中国信息安全,2020,121(1):102-105. 论文 4 原书参考文献第68条;只登记检索信息,未读外部全文
United States House of Representatives.H.R.5356-National Security Commission Artificial Intelligence Actof 2018[A/OL].(2018-03-20) [2021-12-27]. 论文 4 原书参考文献第69条;只登记检索信息,未读外部全文
张涵.《中国人工智能发展报告2018》正式发布[J].中国国情国力,2018(8):80. 论文 4 原书参考文献第70条;只登记检索信息,未读外部全文
AMODEI D,OLAH C,STEINHARDT J,et al. Concrete problems in AI safety[J]. Concrete problems in AI safety,2016. 论文 4 原书参考文献第71条;只登记检索信息,未读外部全文
金晶,秦浩,戴朝霞.美国人工智能安全顶层战略及重点机构研发现状[J].网信军民融合,2020(5):45-48. 论文 4 原书参考文献第72条;只登记检索信息,未读外部全文
《中国人工智能发展报告2018》课题组,清华大学中国科技政策研究中心,清华大学公共管理学院政府文献中心,等.国内外人工智能人才投入[J].科技中国,2018(8):74-80. 论文 4 原书参考文献第73条;只登记检索信息,未读外部全文
中国信息通信研究院.全球人工智能治理体系报告[R/OL].(2020-12-30)[2021-12-27]. 论文 4 原书参考文献第74条;只登记检索信息,未读外部全文
GRISHIN E. The Basic AI Drives[J]. Artificial Societies,2020,15(2). 论文 4 原书参考文献第75条;只登记检索信息,未读外部全文
VILALTA R,DRISSI Y.A Perspective View and Survey of Meta-Learning[J]. Artificial Intelligence Review,2002,18(2):77-95. 论文 4 原书参考文献第76条;只登记检索信息,未读外部全文
WHYTE C. Deepfake news:AI-enabled disinformation as a multi-level public policy challenge[J]. Journal of Cyber Policy,2020,5(2):199-217. 论文 4 原书参考文献第77条;只登记检索信息,未读外部全文
李旭嵘,纪守领,吴春明,等.深度伪造与检测技术综述[J].软件学报,2021,32(2):496-518. 论文 4 原书参考文献第78条;只登记检索信息,未读外部全文
GOODFELLOW I,POUGET A J,MIRZA M,et al. Generative Adversarial Nets[J]. Advances in Neural Information Processing Systems,2014,3:2672-2680. 论文 4 原书参考文献第79条;只登记检索信息,未读外部全文
尼克·波斯特洛姆.超级智能:路线图、危险性与应对策略[M].张体伟,张玉青,译.北京:中信出版社,2015. 书 4 原书参考文献第80条;只登记检索信息,未读外部全文
ASIMOV I.I,robot[M]. New York:Spectra,2004. 书 4 原书参考文献第81条;只登记检索信息,未读外部全文
黄铁军.人类能制造出“超级大脑”吗?[N].中华读书报,2015(5). 论文 4 原书参考文献第82条;只登记检索信息,未读外部全文
SUNG F,ZHANG L,XIANG T,et al. Learning to learn:Meta-critic networks for sample efficient learning[J].arXiv:1706.09529,2017. 论文 4 原书参考文献第83条;只登记检索信息,未读外部全文
ULLMAN S. Using neuroscience todevelop artificial intelligence[J]. Science,2019,363(6428):692-693. 论文 4 原书参考文献第84条;只登记检索信息,未读外部全文
朱应钊,李嫚.元学习研究综述[J].电信科学.2021(1):22-31. 论文 4 原书参考文献第85条;只登记检索信息,未读外部全文
冯登国,秦宇.可信计算环境证明方法研究[J].计算机学报,2008(9):152-164. 论文 4 原书参考文献第86条;只登记检索信息,未读外部全文
KRISHER T,FISCHER D.NTSB sending in vestigators tofatal Tesla-semitrailer crash[N/OL].NBC South Florida (2019-03-02) [2021-12-27]. 论文 4 原书参考文献第87条;只登记检索信息,未读外部全文
Manufacturing Intelligence 书 5 早期智能制造定义来源
Cybersecurity Framework Manufacturing Profile 框架 5 制造领域安全框架历史引用
Industrial Internet of Things Volume G4: Security Framework 框架 5 工业互联网安全框架引用
A Unified Architectural Approach for Cyberattack-Resilient Industrial Control Systems 论文 5 网络、系统、过程统一安全架构
智能制造系统安全风险分析 论文 5 按成因和系统层级划分风险
超级智能城市 论文 5 德勤2018年咨询报告,规模数据只作历史背景
新一代人工智能治理原则——发展负责任的人工智能 框架 5 安全产业方向的原则引用
Securing Smart Cities 论文 5 智慧城市威胁与安全架构报告
智慧城市网络安全白皮书 框架 5 安全原则、架构与措施的历史引用
5G智能城市安全 框架 5 终端网络平台应用四层防护框架
任宇.中国与主要发达国家智能制造的比较研究[J].工业经济论坛,2015(2):68-76. 论文 5 原书参考文献第1条;只登记检索信息,未读外部全文
陈明,梁乃明,等.智能制造之路:数字化工厂[M].北京:机械工业出版社,2016. 书 5 原书参考文献第2条;只登记检索信息,未读外部全文
束涵.以智慧城市赋能碳达峰碳中和[N].解放日报,2021-10-31(2). 论文 5 原书参考文献第3条;只登记检索信息,未读外部全文
李伯虎,柴旭东,侯宝存,等.云制造系统3.0——一种“智能+”时代的新智能制造系统[J].计算机集成制造系统,2019,25(12):2997-3012. 论文 5 原书参考文献第4条;只登记检索信息,未读外部全文
方滨兴.人工智能安全[M].北京:电子工业出版社,2020. 书 5 原书参考文献第5条;只登记检索信息,未读外部全文
吴吉庆,韦有双.智能制造带来的工业信息安全思考[J].微型机与应用,2018,37(3):24-27. 论文 5 原书参考文献第6条;只登记检索信息,未读外部全文
NIST. Cybersecurity for Smart Manufacturing Systems[EB/OL].(2021-12-17)[2022-03-03]. 论文 5 原书参考文献第7条;只登记检索信息,未读外部全文
ENISA.INDUSTRY 4.0 CYBERSECURITY:CHALLENGES&RECOMMENDATIONS[R/OL].(2019-05-20)[2022-03-03]. 论文 5 原书参考文献第8条;只登记检索信息,未读外部全文
李阳春,王海龙,李欲晓,等.国外工业互联网安全产业布局及启示研究[J].中国工程科学,2021,23(2):112-121. 论文 5 原书参考文献第9条;只登记检索信息,未读外部全文
全国信息安全标准化技术委员会.人工智能安全标准化白皮书(2019版)[R/OL].(2019-10)[2022-03-03]. 论文 5 原书参考文献第10条;只登记检索信息,未读外部全文
PwC. An introduction toimplementing AI in manufacturing[R/OL].(2020-07-16)[2022-03-03]. 论文 5 原书参考文献第11条;只登记检索信息,未读外部全文
Trend Micro. Threats and Consequences:A Security Analysis of Smart Manufacturing Systems [R/OL].(2020-05-11)[2022-03-03]. 论文 5 原书参考文献第12条;只登记检索信息,未读外部全文
Symantec. Smarter Security for Manufacturing in The Industry 4.0 Era[R/OL].(2020-01-23)[2022-03-03]. 论文 5 原书参考文献第13条;只登记检索信息,未读外部全文
Microsoft. Security best practices for Azure solutions[R/OL].(2019-04)[2022-03-03]. 论文 5 原书参考文献第14条;只登记检索信息,未读外部全文
Mandiant. Industrial Control Systems Healthcheck[EB/OL].(2023-04-14)[2023-04-24]. 论文 5 原书参考文献第15条;只登记检索信息,未读外部全文
新浪网,AI前线.谷歌史上第二大收购案:54亿美元收购网络安全公司Mandiant[EB/OL].(2022-03-15)[2022-03-15]. 论文 5 原书参考文献第16条;只登记检索信息,未读外部全文
佚名.罗克韦尔自动化签署制造商网络安全框架[J].自动化信息,2014(3):9-9. 论文 5 原书参考文献第17条;只登记检索信息,未读外部全文
PwC. Industrial manufacturing trends 2019[R/OL].(2019-10-14)[2022-03-03]. 论文 5 原书参考文献第18条;只登记检索信息,未读外部全文
周峰,邵枝华,陈渌萍.智能制造系统安全风险分析[J].电子科学技术,2017,(2):45-51. 论文 5 原书参考文献第19条;只登记检索信息,未读外部全文
搜狐号.孟邹清:智能制造安全一体化[EB/OL].(2019-09-24)[2020-12-15]. 论文 5 原书参考文献第20条;只登记检索信息,未读外部全文
搜狐网.自动驾驶标准和认证研究:五大类标准体系助力自动驾驶汽车发展[EB/OL].(2022-04-18)[2022-04-20]. 论文 5 原书参考文献第21条;只登记检索信息,未读外部全文
搜狐网.GB/T 41387—2022《信息安全技术 智能家居通用安全规范》11月1日实施[EB/OL].(2022-04-27)[2022-04-28]. 论文 5 原书参考文献第22条;只登记检索信息,未读外部全文
何积丰.智能制造与安全可信人工智能[J].信息安全与通信保密,2020(12):5. 论文 5 原书参考文献第23条;只登记检索信息,未读外部全文
华中科技大学新闻网.人工智能与自动化学院周纯杰团队发表关于工业控制系统信息安全防护的最新研究成果[EB/OL].(2021-03-30)[2022-03-03]. 论文 5 原书参考文献第24条;只登记检索信息,未读外部全文
前瞻产业研究院.2021年中国工业信息安全市场规模、细分市场及发展前景分析细分产品发展潜力巨大[EB/OL].(2021-11-23)[2022-03-03]. 论文 5 原书参考文献第25条;只登记检索信息,未读外部全文
王秋华,吴国华,魏东晓,等.工业互联网安全产业发展态势及路径研究[J].中国工程科学,2021,23(2):10. 论文 5 原书参考文献第26条;只登记检索信息,未读外部全文
李瑞琪,韦莎,程雨航,等.人工智能技术在智能制造中的典型应用场景与标准体系研究[J].中国工程科学,2018,20(4):112-117. 论文 5 原书参考文献第27条;只登记检索信息,未读外部全文
佚名.造有道 智万物——德勤人工智能制造业应用调查[J].电器工业,2020(7):27-41. 论文 5 原书参考文献第28条;只登记检索信息,未读外部全文
张帅,于英杰,赵甲,等.人工智能技术在汽车制造领域的应用分析[J].科学与信息化,2019(33):18-19. 论文 5 原书参考文献第29条;只登记检索信息,未读外部全文
沈昌祥.用可信计算构筑智能城市安全生态圈[J].网信军民融合,2017,4:19-23. 论文 5 原书参考文献第30条;只登记检索信息,未读外部全文
张磊.人工智能时代,如何筑牢信息安全屏障[J].中国信息化,2019,12:92-94. 论文 5 原书参考文献第31条;只登记检索信息,未读外部全文
刘小垒,罗宇恒,邵林,等.对抗样本生成及攻防技术研究[J].计算机应用研究,2020,37(11):3201-3212. 论文 5 原书参考文献第32条;只登记检索信息,未读外部全文
德勤.超级智能城市2.0:人工智能引领新风向[R/OL].(2019-12)[2020-10-22]. 论文 5 原书参考文献第33条;只登记检索信息,未读外部全文
物联网智慧城市.2025年,智慧城市市场规模将达8207亿美元[EB/OL].(2020-09-21)[2020-10-10]. 论文 5 原书参考文献第34条;只登记检索信息,未读外部全文
中国信息通信研究院.物联网白皮书[R/OL].(2016-12)[2020-10-16]. 论文 5 原书参考文献第35条;只登记检索信息,未读外部全文
德勤.超级智能城市[R/OL].(2018-02-12)[2020-10-15]. 论文 5 原书参考文献第36条;只登记检索信息,未读外部全文
中国工程院“新时代、新态势下‘互联网+’行动计划发展战略研究”项目组.“智慧物联网”——一种适应新时代、新态势、新征程的新型物联网[R].2020. 论文 5 原书参考文献第37条;只登记检索信息,未读外部全文
佚名.智慧城市的国际标准研究[R/OL].(2021-08-22)[2022-03-03]. 论文 5 原书参考文献第38条;只登记检索信息,未读外部全文
Rodger Lea. Smart City standards:anoverview[EB/OL].(2017-12-29)[2022-03-03]. 论文 5 原书参考文献第39条;只登记检索信息,未读外部全文
Trend Micro. Securing Smart Cities[R/OL].(2017-05-30)[2020-12-10]. 论文 5 原书参考文献第40条;只登记检索信息,未读外部全文
KPMG. Cybersecurity in smart cities[R/OL].(2019-02)[2022-03-03]. 论文 5 原书参考文献第41条;只登记检索信息,未读外部全文
Deloitte. Making smart cities cybersecure[R/OL].(2019-04-11)[2022-03-03]. 论文 5 原书参考文献第42条;只登记检索信息,未读外部全文
CSA. Cyber Security Guidelines for Smart City Technology Adoption[R/OL].(2016-02)[2022-03-03]. 论文 5 原书参考文献第43条;只登记检索信息,未读外部全文
比特币网.十大布局智慧城市生态的跨国巨头[EB/OL].(2020-04-22)[2022-03-03]. 论文 5 原书参考文献第44条;只登记检索信息,未读外部全文
智慧城市网.国外有哪些公司致力于推动智慧城市与公共安全建设[EB/OL].(2019-12-21)[2022-03-03]. 论文 5 原书参考文献第45条;只登记检索信息,未读外部全文
王惠莅.我国智慧城市网络安全标准化进展[J].信息技术与标准化,2019(8):25-29. 论文 5 原书参考文献第46条;只登记检索信息,未读外部全文
百家号.智慧城市产业生态圈发布《智慧城市网络安全白皮书》[EB/OL].(2019-12-26)[2022-03-03]. 论文 5 原书参考文献第47条;只登记检索信息,未读外部全文
中国信通院.智慧城市产业图谱研究报告(2020年)[R/OL].(2020-12-23)[2022-03-03]. 论文 5 原书参考文献第48条;只登记检索信息,未读外部全文
中国信通院.《5G智慧城市安全白皮书》正式发布[EB/OL].(2020-03-20)[2022-03-03]. 论文 5 原书参考文献第49条;只登记检索信息,未读外部全文
中国安防行业网.智慧政务基本概念及发展现状[EB/OL].(2020-12-21)[2020-12-30]. 论文 5 原书参考文献第50条;只登记检索信息,未读外部全文
郭辉.人工智能改变安防新格局[J].中国公共安全,2018,6:44-46. 论文 5 原书参考文献第51条;只登记检索信息,未读外部全文
德勤. Global Artificial Intelligence Industry Whitepaper[R/OL].(2019-09)[2020-10-22]. 论文 5 原书参考文献第52条;只登记检索信息,未读外部全文
中国经济网.充分发挥人工智能在疫情防控中的作用[EB/OL].(2020-07-23)[2020-12-30]. 论文 5 原书参考文献第53条;只登记检索信息,未读外部全文
碳博会.智慧城市“碳达峰”“碳中和”的对策与建议[EB/OL].(2021-08-27)[2022-03-03]. 论文 5 原书参考文献第54条;只登记检索信息,未读外部全文
reCAPTCHA 框架 6 用人机识别难题限制自动化的验证码系统
ATT&CK 框架 6 以战术技术组织攻击知识
攻击树 框架 6 按目标分解可能攻击路径
Mandiant攻击生命周期模型 框架 6 APT入侵及权限推进建模
HU W,TAN Y. Generating Adversarial Malware Examples for Black-Box Attacks Based on GAN[J].DMBD,2022(2):409-423. 论文 6 原书参考文献第1条;只登记检索信息,未读外部全文
KOLOSNJAJI B,DEMONTIS A,BIGGIO B,et al. Adversarial Malware Binaries:Evading Deep Learning for Malware Detection in Executables[C].EUSIPCO,2018:533-537. 论文 6 原书参考文献第2条;只登记检索信息,未读外部全文
PIERAZZI F,PENDLEBURY F,CORTELLAZZI J,et al. Intriguing Propertiesof Adversarial ML Attacks in the Problem Space[C].IEEE Symposiumon Security and Privacy,2020:1332-1349. 论文 6 原书参考文献第3条;只登记检索信息,未读外部全文
PASQUINI D,GANGWAL A,ATENIESE G,et al. Improving Password Guessing via Representation Learning[C].IEEE Symposiumon Security and Privacy,2021:1382-1399. 论文 6 原书参考文献第4条;只登记检索信息,未读外部全文
HITAJ B,GASTI P,ATENIESE G,et al. PassGAN:A Deep Learning Approach for Password Guessing[C].ACNS,2019:217-237. 论文 6 原书参考文献第5条;只登记检索信息,未读外部全文
TRIEU K,YI Y. Artificial Intelligence-Based Password Brute Force Attacks[C].MWAIS,2018:227-286. 论文 6 原书参考文献第6条;只登记检索信息,未读外部全文
XU M,WANG C,YU J,et al. Chunk-Level Password Guessing:Towards Modeling Refined Password Composition Representations[C].ACM CCS,2021:5-20. 论文 6 原书参考文献第7条;只登记检索信息,未读外部全文
PASQUINI D,CIANFRIGLIA M,ATENIESE G,et al. Reducing Bias in Modeling Real-world Password Strength via Deep Learning and Dynamic Dictionaries[C].USENIX Security Symposium,2021:821-838. 论文 6 原书参考文献第8条;只登记检索信息,未读外部全文
JOHN S,PHILIP T. Weaponzing Data Secience for Social Engineering:Automated E2E Spear Phishingon Twitter[C].DEFCON,2016:332-343. 论文 6 原书参考文献第9条;只登记检索信息,未读外部全文
OEST A,ZHANG P,WARDMAN B,et al. Sunrise to Sunset:Analyzing the End-to-end Life Cycle and Eectiveness of Phishing Attacks at Scale[C].USENIX Security Symposium,2020:448-465. 论文 6 原书参考文献第10条;只登记检索信息,未读外部全文
ZHANG P,OEST A,et al. CrawlPhish:Large-scale Analysisof Client-side Cloaking Techniques in Phishing[C].IEEE Symposiumon Security and Privacy,2021:1109-1125. 论文 6 原书参考文献第11条;只登记检索信息,未读外部全文
OEST A,SAFAEI Y,DOUPE A,et al. PhishFarm:A Scalable Framework for Measuring the Effectivenessof Evasion Techniques against Browser Phishing Blacklists[C].IEEE Symposiumon Security and Privacy,2019:1344-1361. 论文 6 原书参考文献第12条;只登记检索信息,未读外部全文
ACHARYA B,VADREVU P. PhishPrint:Evading Phishing Detection Crawlers by Prior Profiling[C].USENIX Security Symposium,2021:3775-3792. 论文 6 原书参考文献第13条;只登记检索信息,未读外部全文
ULQINAKU E,ASSAL H,ABDOU A. Is Real-time Phishing Eliminated with FIDO?Social Engineering Downgrade Attacks against FIDO Protocols[C].USENIX Security Symposium,2021:3811-3828. 论文 6 原书参考文献第14条;只登记检索信息,未读外部全文
BAHNSEN C,TORROLEDO I. DeepPhish:Simulating Malicious AI[C]. BlackHat,2018:459-468. 论文 6 原书参考文献第15条;只登记检索信息,未读外部全文
HENRIQUES M,DANZIGER M. Attacking and Defending with Intelligent Botnets[C]. SimpósioBrasileirode Telecomunicações e Processamentode Sinais,2017:77-86. 论文 6 原书参考文献第16条;只登记检索信息,未读外部全文
GRIFFIOEN J,DOERR C. Examining Mirai’s Battleover the Internetof Things[C].ACM CCS,2020:743-758. 论文 6 原书参考文献第17条;只登记检索信息,未读外部全文
ALOWAISHEQ E,TANG S,WANG Z,et al. Zombie Awakening:Stealthy Hijackingof Active Domains through DNS Hosting Referral[C].ACM CCS,2020:1307-1322. 论文 6 原书参考文献第18条;只登记检索信息,未读外部全文
SHEKARI T.IRVENE C. MaMIoT:Manipulationof Energy Market Leveraging High Wattage IoT Botnets[C].ACM CCS,2021:1338-1352. 论文 6 原书参考文献第19条;只登记检索信息,未读外部全文
NATASHA L. Lyrebird Is a Voice Mimic for the Fake News Era[EB/OL].(2017-04-25)[2022-12-22]. 论文 6 原书参考文献第20条;只登记检索信息,未读外部全文
ARIK S O,CHEN J,PENG K,et al. Neural Voice Cloning with a Few Samples[C]. NeurIPS,2018:10040-10050. 论文 6 原书参考文献第21条;只登记检索信息,未读外部全文
HSU N,ZHANG Y,WEISS J,et al. Hierarchical Generative Modeling for Controllable Speech Synthesis[C].ICLR,2018:1633-1645. 论文 6 原书参考文献第22条;只登记检索信息,未读外部全文
WENGER E,BRONCKERS M,CIANFARANI C. Hello,It’s Me:Deep Learning-based Speech Synthesis Attacks in the Real World[C].ACM CCS,2021:235-250 论文 6 原书参考文献第23条;只登记检索信息,未读外部全文
QIAN K,ZHANG Y,CHANG S,et al. Unsupervised Speech Decomposition via Triple Information Bottleneck[C].ICML,2020:7836-7846. 论文 6 原书参考文献第24条;只登记检索信息,未读外部全文
SHI C,JI S,LIU Q,et al. Text Captcha Is Dead?A Large Scale Deployment and Empirical Study[C].ACM CCS,2020:1391-1406. 论文 6 原书参考文献第25条;只登记检索信息,未读外部全文
LIU Z,SAMWEL N,WEISSBART L,et al. Screen Gleaning:A Screen Reading TEMPEST Attackon Mobile Devices Exploiting an Electromagnetic Side Channel[C].NDSS,2020:779-796. 论文 6 原书参考文献第26条;只登记检索信息,未读外部全文
GAO Y,GAO H,LUO S. Research on the Security of Visual Reasoning CAPTCHA[C].USENIX Security Symposium,2021:3291-3308. 论文 6 原书参考文献第27条;只登记检索信息,未读外部全文
ANDERSON S,WOODBRIDGE J,FILAR B. DeepDGA:Adversarially-Tuned Domain Generation and Detection[C].ACM CCS,2016:13-27. 论文 6 原书参考文献第28条;只登记检索信息,未读外部全文
GU T,DOLAN G,GARG S. BadNets:Identifying Vulnerabilities in the Machine Learning Model Supply Chain[C]. CoRR,2017. 论文 6 原书参考文献第29条;只登记检索信息,未读外部全文
SEVERI G,MEYER J,COULL S,et al. Explanation-Guided Backdoor Poisoning Attacks Against Malware Classifiers[C].USENIX Security Symposium,2021:1487-1504. 论文 6 原书参考文献第30条;只登记检索信息,未读外部全文
SCHUSTER R,SONG C,TROMER E,et al. You Autocomplete Me:Poisoning Vulnerabilities inNeural Code Completion[C].USENIX Security Symposium,2021:1559-1577. 论文 6 原书参考文献第31条;只登记检索信息,未读外部全文
CARLINI N. Poisoning the Unlabeled Dataset of Semi-Supervised Learning[C].USENIX Security Symposium,2021:1577-1594. 论文 6 原书参考文献第32条;只登记检索信息,未读外部全文
JAGIELSKI M,SEVERI G,HARGER P. Subpopulation Data Poisoning Attacks[C].ACM CCS,2021:3104-3119. 论文 6 原书参考文献第33条;只登记检索信息,未读外部全文
FANG M,CAO X,JIA J. Local Model Poisoning Attacks to Byzantine-Robust Federated Learning[C].USENIX Security Symposium,2019:1605-1622. 论文 6 原书参考文献第34条;只登记检索信息,未读外部全文
HUANG H,MU J,GONG N Z,et al. Data Poisoning Attacks to Deep Learning Based Recommender Systems[C].NDSS,2021:789-805. 论文 6 原书参考文献第35条;只登记检索信息,未读外部全文
周晓军.工业SCADA系统信息安全关键技术研究[D].北京:中国科学院大学,2018. 论文 6 原书参考文献第36条;只登记检索信息,未读外部全文
张蕾,崔勇,刘静,等.机器学习在网络空间安全研究中的应用[J].计算机学报,2018,41(9):1943-1975. 论文 6 原书参考文献第37条;只登记检索信息,未读外部全文
SURMINSKI S,NIESLER C,BRASSER F. RealSWATT:Remote Software-based Attestation for Embedded Devices under Realtime Constraints[C].ACM CCS,2021:2890-2905. 论文 6 原书参考文献第38条;只登记检索信息,未读外部全文
DHANUSKODI N,LI X,HOLCOMB E.COUNTERFOIL:Verifying provenanceof integrated circuits using intrinsic package fingerprints and inexpensive cameras[C].USENIX Security Symposium,2020:1255-1272. 论文 6 原书参考文献第39条;只登记检索信息,未读外部全文
JOO K,CHOI W,LEE H. Hold the Door!Fingerprinting Your Car Key to Prevent Keyless Entry Car Theft[C].NDSS,2020:625-643. 论文 6 原书参考文献第40条;只登记检索信息,未读外部全文
BARR F,UGARTE X,GRAZIANO M. Survivalism:Systematic Analysisof Windows Malware Living-Off-The-Land[C].IEEE Symposiumon Security and Privacy,2021:1557-1574. 论文 6 原书参考文献第41条;只登记检索信息,未读外部全文
HENDLER D,KELS S,RUBIN A.AMSI-Based Detection of Malicious PowerShell Code Using Contextual Embeddings[C].ACM Asia Conference on Computer and Communications Security,2020:482-496. 论文 6 原书参考文献第42条;只登记检索信息,未读外部全文
PEI K,GUAN J,KING W,et al.XDA:Accurate,Robust Disassembly with Transfer Learning[C].NDSS,2020:519-536. 论文 6 原书参考文献第43条;只登记检索信息,未读外部全文
AGHAKHANI H,GRITTI F,MECCA F,et al. When Malware is Packin’Heat:Limits of Machine Learning Classifiers Based on Static Analysis Features[C]. Network and Distributed System Security Symposium,2020:741-759. 论文 6 原书参考文献第44条;只登记检索信息,未读外部全文
DOWNING E,MIRSKY Y,PARK K. DeepReflect:Discovering Malicious Functionality through Binary Reconstruction[C].USENIX Security Symposium,2021:3469-3486. 论文 6 原书参考文献第45条;只登记检索信息,未读外部全文
TRIPPEL T,SHIN G,BUSH K. Bomberman:Defining and Defeating Hardware Ticking Timebombs at Design-time[C].IEEE Symposiumon Security and Privacy,2021:970-987. 论文 6 原书参考文献第46条;只登记检索信息,未读外部全文
TRIPPEL T,SHIN G,BUSH B,et al.ICAS:an Extensible Framework for Estimating the Susceptibilityof IC Layouts toAdditive Trojans[C].IEEE Symposiumon Security and Privacy,2020:1344-1360. 论文 6 原书参考文献第47条;只登记检索信息,未读外部全文
HWANG H,PENG C,NGUYEN L,et al. An LSTM-Based Deep Learning Approach for Classifying Malicious Traffic at the Packet Level[C].IEEE Symposiumon Integrated Network Management,2019:328-337. 论文 6 原书参考文献第48条;只登记检索信息,未读外部全文
HOLLAND J,SCHMITT P,FEAMSTER N,et al. New Directions in Automated Traffic Analysis[C].ACM CCS,2020:3366-3381. 论文 6 原书参考文献第49条;只登记检索信息,未读外部全文
TRIMANANDA R,VARMARKEN J,MARKOPOULOU A. Packet-Level Signatures for Smart Home Devices[C]. Network and Distributed System Security Symposium,2020:627-643. 论文 6 原书参考文献第50条;只登记检索信息,未读外部全文
OH E,SUNKAM S,HOPPER N.p1-FP:Extraction,Classification,and Predictionof Website Fingerprints with Deep Learning[C]. Private Enhancing Technology,2019:191-209. 论文 6 原书参考文献第51条;只登记检索信息,未读外部全文
ACETO G,CIUONZO D,MONTIERI A,et al. Mobile Encrypted Traffic Classification Using Deep Learning:Experimental Evaluation,Lessons Learned,and Challenges[J].IEEE Transactionson Network and Service Management,2019,16(2):445-458. 论文 6 原书参考文献第52条;只登记检索信息,未读外部全文
MIRSKY Y,DOITSHMAN T,ELOVICI Y,et al. Kitsune:An Ensemble of Autoencoders for Online Network Intrusion Detection[C].NDSS,2018:825-842. 论文 6 原书参考文献第53条;只登记检索信息,未读外部全文
IQBAL U,SNYDER P,ZHU S,et al. AdGraph:A Graph-Based Approach toAd and Tracker Blocking[C].IEEE Symposiumon Security and Privacy,2018:763-779. 论文 6 原书参考文献第54条;只登记检索信息,未读外部全文
XU T,GOOSSEN G,CEVAHIR K. Deep Entity Classification:Abusive Account Detection for Online Social Networks[C].USENIX Security Symposium,2021:4097-4114. 论文 6 原书参考文献第55条;只登记检索信息,未读外部全文
AR A,NASEEM F,BABUN L,et al.MINOS:A Lightweight Real-Time Cryptojacking Detection System[C]. Network and Distributed System Security Symposium,2021:1017-1033. 论文 6 原书参考文献第56条;只登记检索信息,未读外部全文
IQBAL U,ENGLEHARDT S,SHAFIQ Z. Fingerprinting the Fingerprinters:Learning toDetect Browser Fingerprinting Behaviors[C].IEEE Symposiumon Security and Privacy,2021:1143-1161. 论文 6 原书参考文献第57条;只登记检索信息,未读外部全文
ZENG J,CHUA L,CHEN Y,et al.WATSON:Abstracting Behaviors from Audit Logs via Aggregationof Contextual Semantics[C]. Network and Distributed System Security Symposium,2021:799-815. 论文 6 原书参考文献第58条;只登记检索信息,未读外部全文
BAI Z,WANG K,ZHU H. Runtime Recovery of Web Applications under Zero-Day ReDoS Attacks[C].IEEE Symposiumon Security and Privacy,2021:1575-1592. 论文 6 原书参考文献第59条;只登记检索信息,未读外部全文
LIN Y,LIU R,DIVAKARAN M,et al. Phishpedia:A Hybrid Deep Learning Based Approach toVisually Identify Phishing Webpages[C].USENIX Security Symposium,2021:3793-3810. 论文 6 原书参考文献第60条;只登记检索信息,未读外部全文
KONDRACKI B,AZAD A,STAROV O. Catching Transparent Phish:Analyzing and Detecting MITM Phishing Toolkits[C].ACM SIGSAC Conference on Computer and Communications Security,2021:36-51. 论文 6 原书参考文献第61条;只登记检索信息,未读外部全文
OEST A,SAFAEI Y,ZHANG P. PhishTime:Continuous Longitudinal Measurement of theEffectivenessof Anti-phishing Blacklists[C].USENIX Security Symposium,2020:379-396. 论文 6 原书参考文献第62条;只登记检索信息,未读外部全文
CALZAVARA S,CONTI M,FOCARDI R,et al. Mitch:A Machine Learning Approach tothe Black-Box Detectionof CSRF Vulnerabilities[C].IEEE European Symposiumon Security and Privacy,2019:528-545. 论文 6 原书参考文献第63条;只登记检索信息,未读外部全文
ABDELNABI S,KROMBHOLZ K,FRITZ M. VisualPhishNet:Zero-Day Phishing Website Detection by Visual Similarity[C].ACM SIGSAC Conference on Computer and Communications Security,2020:1681-1696. 论文 6 原书参考文献第64条;只登记检索信息,未读外部全文
HASSAN U,BATES A,MARINO D. Tactical Provenance Analysis for Endpoint Detection and Response Systems[C].IEEE Symposiumon Security and Privacy,2020:1172-1189. 论文 6 原书参考文献第65条;只登记检索信息,未读外部全文
FEI P,LI Z,WANG Z,et al.SEAL:Storage-efficient Causality Analysis on Enterprise Logs with Query-friendly Compression[C].USENIX Security Symposium,2021:2987-3004. 论文 6 原书参考文献第66条;只登记检索信息,未读外部全文
HAN X,PASQUIER T,BATES A,et al.UNICORN:Runtime Provenance-Based Detector for Advanced Persistent Threats[C].NDSS,2020:327-343. 论文 6 原书参考文献第67条;只登记检索信息,未读外部全文
YU L,MA S,ZHANG Z,et al. ALchemist:Fusing Application and Audit Logs for Precise Attack Provenance without Instrumentation[C]. Network and Distributed System Security Symposium,2021:766-782. 论文 6 原书参考文献第68条;只登记检索信息,未读外部全文
HASSAN U,NOUREDDINE A,DATTA P,et al. OmegaLog:High-Fidelity Attack Investigation via Transparent Multi-layer Log Analysis[C]. Network and Distributed System Security Symposium,2020:526-541. 论文 6 原书参考文献第69条;只登记检索信息,未读外部全文
ALSAHEEL A,NAN Y,MA S.ATLAS:A Sequence-based Learning Approach for Attack Investigation[C].USENIX Security Symposium,2021:3005-3022. 论文 6 原书参考文献第70条;只登记检索信息,未读外部全文
XUE W,LI T. Aspect Based Sentiment Analysis with Gated Convolutional Networks[C].ACL,2018:2514-2523. 论文 6 原书参考文献第71条;只登记检索信息,未读外部全文
TAY Y,LUU T,HUI C. Learning to Attend via Word-Aspect Associative Fusion for Aspect-based Sentiment Analysis[C].AAAI,2017:5956-5963. 论文 6 原书参考文献第72条;只登记检索信息,未读外部全文
MA Y,PENG H,CAMBRIA E. Targeted Aspect-Based Sentiment Analysisvia Embedding Commonsense Knowledge intoan Attentive LSTM[C].AAAI,2018:4328-4336. 论文 6 原书参考文献第73条;只登记检索信息,未读外部全文
魏青梅,李宇博,应雨龙.结合Dempster-Shafer证据理论与循环神经网络的网络安全态势预测[J].济南大学学报:自然科学版,2020,34(3):238-246. 论文 6 原书参考文献第74条;只登记检索信息,未读外部全文
SHEN Y,MARICONTI E,VERVIER A,et al. Tiresias:Predicting Security Events Through Deep Learning[C].ACM CCS,2019:592-607. 论文 6 原书参考文献第75条;只登记检索信息,未读外部全文
WANG J,SONG C,YIN H. Reinforcement Learning-based Hierarchical Seed Scheduling for Greybox Fuzzing[C]. Network and Distributed System Security Symposium,2021:523-541. 论文 6 原书参考文献第76条;只登记检索信息,未读外部全文
SHE D,CHEN Y,RAY B. Neutaint:Efficient Dynamic Taint Analysis with Neural Networks[C].IEEE Symposiumon Security and Privacy,2020:1527-1543. 论文 6 原书参考文献第77条;只登记检索信息,未读外部全文
HE J,SIVANRUPAN G,TSANKOV P. Learning toExplore Paths for Symbolic Execution[C].ACM SIGSAC Conferenceon Computer and Communications Security,2021:2526-2540. 论文 6 原书参考文献第78条;只登记检索信息,未读外部全文
WANG D,ZHANG Z,ZHANG H. SyzVegas:Beating Kernel Fuzzing Odds with Reinforcement Learning[C].USENIX Security Symposium,2021:2741-2758. 论文 6 原书参考文献第79条;只登记检索信息,未读外部全文
ZHANG X,CHEN J,FENG C. Reducing Test Cases with Attention Mechanism of Neural Networks[C].USENIX Security Symposium,2021:2075-2092. 论文 6 原书参考文献第80条;只登记检索信息,未读外部全文
LI Z,ZOU D,XU S,et al. VulDeePecker:A Deep Learning-Based System for Vulnerability Detection[C].NDSS,2018:327-343. 论文 6 原书参考文献第81条;只登记检索信息,未读外部全文
WANG S,MAZUMDER S,LIU B. Target-Sensitive Memory Networks for Aspect Sentiment Classification[C].ACL,2018:957-967. 论文 6 原书参考文献第82条;只登记检索信息,未读外部全文
HAZARIKA D,PORIA S,VIJ P,et al. Modeling Inter-Aspect Dependencies for Aspect-Based Sentiment Analysis[C]. Conference of the North American Chapter of the Association for Computational Linguistics:Human Language Technologies,2018:266-270. 论文 6 原书参考文献第83条;只登记检索信息,未读外部全文
廖彬.基于人工智能的校园网络安全探索与研究[J].网络安全技术与应用,2020(10):115-116. 论文 6 原书参考文献第84条;只登记检索信息,未读外部全文
李盼,赵文涛,刘强,等.机器学习安全性问题及其防御技术研究综述[J].计算机科学与探索,2018,12(2):171-184. 论文 6 原书参考文献第85条;只登记检索信息,未读外部全文
田鹏,左大义,高艳春,等.面向实际场景的人工智能脆弱性分析[J].计算机技术与发展,2021(11):129-135. 论文 6 原书参考文献第86条;只登记检索信息,未读外部全文
Keras 源码项目 7 以高级模块化接口降低模型开发门槛
NVDLA 源码项目 7 开源深度学习加速硬件工程的历史例子
LLVM 源码项目 7 通用编译基础设施生态的历史例子
开源产业白皮书(2019年) 论文 7 开源使用比例的历史报告
2019人工智能指数报告 论文 7 论文影响力比较来源
中商产业研究院.中国人工智能芯片行业市场前景及投资机会研究报告[R].2022. 论文 7 原书参考文献第1条;只登记检索信息,未读外部全文
白华.2021中国人工智能芯片企业TOP50[J].互联网周刊,2022(4):52-53. 论文 7 原书参考文献第2条;只登记检索信息,未读外部全文
人工智能全球2000位最具影响力学者榜单发布[J].智能城市,2020,6(1):184. 论文 7 原书参考文献第3条;只登记检索信息,未读外部全文
云计算开源产业联盟.开源产业白皮书[R].2019. 论文 7 原书参考文献第4条;只登记检索信息,未读外部全文
《中国人工智能发展报告2021》英文版发布[J].中国科技奖励,2021(10):30-31. 论文 7 原书参考文献第5条;只登记检索信息,未读外部全文
上海交通大学Acemap.2021年中国高校人工智能论文影响力[R].2021. 论文 7 原书参考文献第6条;只登记检索信息,未读外部全文
Stanford University. The 2022 AI Index Report [R].2022. 论文 7 原书参考文献第7条;只登记检索信息,未读外部全文
清华—中国工程院知识智能联合研究中心.人工智能之学术搜索[R].2020. 论文 7 原书参考文献第8条;只登记检索信息,未读外部全文
清华—中国工程院知识智能联合研究中心.人工智能之人机交互[R].2020. 论文 7 原书参考文献第9条;只登记检索信息,未读外部全文
Center for Data Innovation. Whois winning the AI race:China,the EU,or the United States?2021 update[R].2021. 论文 7 原书参考文献第10条;只登记检索信息,未读外部全文
中国信息通信研究院.全球人工智能产业数据报告[R].2019. 论文 7 原书参考文献第11条;只登记检索信息,未读外部全文
国务院.新一代人工智能发展规划[Z].2017-07-08. 论文 7 原书参考文献第12条;只登记检索信息,未读外部全文
金融时报.中国新一代人工智能科技产业发展报告2021[N].2021-10-25(11). 论文 7 原书参考文献第13条;只登记检索信息,未读外部全文
中国电子学会.新一代人工智能发展白皮书(2017版)[R].2017. 论文 7 原书参考文献第14条;只登记检索信息,未读外部全文
经合组织人工智能原则 框架 8 2019年原则的历史引用
可信赖人工智能伦理原则 框架 8 欧盟2019年伦理框架
A.I. Verify 框架 8 书中举例的治理测试框架与工具集
以伦理为基准的设计 框架 8 IEEE的人类福祉优先研究报告
国家新一代人工智能标准体系建设指南 框架 8 本书引用的2020年标准化规划
信息安全技术 数据安全能力成熟度模型 框架 8 GB/T 37988—2019的成熟度框架
智能时代的技术伦理观——重塑数字社会的信任 论文 8 技术信任、个体幸福、社会可持续框架
2018人工智能产业创新评估白皮书 论文 8 技术就绪度与场景融合度框架
胡影,上官晓丽,张宇光,等.人工智能安全标准现状与思考[J].保密科学技术,2017(11):4. 论文 8 原书参考文献第1条;只登记检索信息,未读外部全文
何哲.人工智能时代的人类安全体系构建初探[J].电子政务,2018(7):16. 论文 8 原书参考文献第2条;只登记检索信息,未读外部全文
李木金,凌飞.一种基于人工智能的信息系统安全风险评估与防护方法[P].CN104965972A,2015. 论文 8 原书参考文献第3条;只登记检索信息,未读外部全文
张琳琳,王腾.人工智能安全国际标准化进展研究[J].信息通信技术与政策,2021(11):6. 论文 8 原书参考文献第4条;只登记检索信息,未读外部全文
中国电子技术标准化研究院.人工智能标准化白皮书(2021版)[R].2021. 论文 8 原书参考文献第5条;只登记检索信息,未读外部全文
中国电子技术标准化研究院.人工智能标准化白皮书(2019版)[R].2019. 论文 8 原书参考文献第6条;只登记检索信息,未读外部全文
国家新一代人工智能治理专业委员会.新一代人工智能治理原则——发展负责任的人工智能[R].2019. 论文 8 原书参考文献第7条;只登记检索信息,未读外部全文
全国信息安全标准化技术委员会.信息安全技术—数据安全能力成熟度模型[R].2019. 论文 8 原书参考文献第8条;只登记检索信息,未读外部全文
邵辉,赵庆贤,林娜.风险管理原理与方法[M].北京:中国石化出版社,2010. 书 8 原书参考文献第9条;只登记检索信息,未读外部全文
孙立新.风险管理原理、方法与应用[M].北京:经济管理出版社,2014. 书 8 原书参考文献第10条;只登记检索信息,未读外部全文
梅亮,陈劲,吴欣桐.责任式创新范式下的新兴技术创新治理解析——以人工智能为例[J].技术经济,2018(1):1-7。 论文 8 原书参考文献第11条;只登记检索信息,未读外部全文
SIMON Y E,JIN B H,DONG S K. Security Modelling and Assessmentof Modern Networks Using Time Independent Graphical Security Models[J]. Journal of Network and Computer Applications,2019,15:102-106. 论文 8 原书参考文献第12条;只登记检索信息,未读外部全文
宋艳,陈冬华.信息系统安全风险评估综述[J].情报理论与实践,2009,32(5):5-10. 论文 8 原书参考文献第13条;只登记检索信息,未读外部全文
蒋增增,黄超,李乐,等.人工智能人脸识别技术的应用与安全挑战[J].保密科学技术,2019(9):18-22. 论文 8 原书参考文献第14条;只登记检索信息,未读外部全文
JIAS,GUO GD,XU Z Q.A Survey on 3D Mask Presentation Attack Detection and Countermeasures[J]. Elsevier,2019(9):1-13. 论文 8 原书参考文献第15条;只登记检索信息,未读外部全文
孙道锐.人脸识别技术的社会风险及其法律规制[J].科学学研究,2020,(7):1-17. 论文 8 原书参考文献第16条;只登记检索信息,未读外部全文
郝英好.人工智能安全风险分析与治理[J].中国电子科学研究院学报,2020,15(6):501-505. 论文 8 原书参考文献第17条;只登记检索信息,未读外部全文
MedEthEx 框架 9 临床伦理专家系统例子,显示低自主亦可高道德敏感
人工智能伦理建议 框架 9 联合国教科文组织2021年文件的历史提名
机器人民法条例 框架 9 欧盟议会2017年建议报告
DABUS两项发明申请 框架 9 书中2019年欧洲专利局案例,未据此判断当前普遍规则
WALLACH W,COLIN A Moral Machines[M]. Oxford:Oxford University Press,2010. 书 9 原书参考文献第1条;只登记检索信息,未读外部全文
ANDERSON M,ANDERSON S L,Armon C. MedEthEx:A Prototype Medical Ethics Advisor[C]. In Proceedings The Twenty-First National Conferenceon Artificial Intelligence and the Eighteenth Innovative Applicationsof Artificial Intelligence Conference,2006:1759-1765. 论文 9 原书参考文献第2条;只登记检索信息,未读外部全文
雷瑞鹏,邱仁宗.新兴技术中的伦理和监管问题[J].山东科技大学学报(社会科学版),2019:3. 论文 9 原书参考文献第3条;只登记检索信息,未读外部全文
BOSSMANN J. Top 9 ethical issues in artificial intelligence[EB/OL]. 论文 9 原书参考文献第4条;只登记检索信息,未读外部全文
RANZAHUER,M. The Ethicsof AI[EB/OL]. 论文 9 原书参考文献第5条;只登记检索信息,未读外部全文
KAMBRIA. The 7 Most Pressing Ethical Issues in Artificial Intelligence[EB/OL]. 论文 9 原书参考文献第6条;只登记检索信息,未读外部全文
KILPATRICK,S 8 Ethical Questions in Artificial Intelligence[EB/OL]. 论文 9 原书参考文献第7条;只登记检索信息,未读外部全文
GOERTZEL,B,PENNACHIN C. Artificial General Intelligence[M]. New York:Springer,2007. 书 9 原书参考文献第8条;只登记检索信息,未读外部全文
DENNETT D C. Consciousness Explained[M]. New York:Little,Brown and Co,1991. 书 9 原书参考文献第9条;只登记检索信息,未读外部全文
SEARLE J R. Minds,Brains,and Programs[J]. The Behavioral and Brain Sciences,1980,3(3):417-424. 论文 9 原书参考文献第10条;只登记检索信息,未读外部全文
TURING A M. Computing Machinery and Intelligence[J]. Mind,1950,59(236):433-460. 论文 9 原书参考文献第11条;只登记检索信息,未读外部全文
刘哲,等.中国机器人伦理标准化前瞻2019[M].北京:北京大学出版社,2019. 书 9 原书参考文献第12条;只登记检索信息,未读外部全文
The British Standards Institution. Robots and Robotic Devices[M]. London:BSI Standards Limited,2016. 书 9 原书参考文献第13条;只登记检索信息,未读外部全文
VAN W A. Healthcare Robots[M]. Farnham:Ashgate,2015. 书 9 原书参考文献第14条;只登记检索信息,未读外部全文
TRONTO J. Moral Boundaries:A Political Argument for an Ethicof Care[M]. New York,NY:Routledge,126-136,1993. 书 9 原书参考文献第15条;只登记检索信息,未读外部全文
GUNKEL D J. Robot Rights[M]. Cambridge:The MIT Press,2018. 书 9 原书参考文献第16条;只登记检索信息,未读外部全文
边沁.道德与立法原理导论[M].时殷弘,译.北京:商务印书馆,2000. 书 9 原书参考文献第17条;只登记检索信息,未读外部全文
南星.人工智能体有自由意志吗[J].学术月刊,2021,1:35-47. 论文 9 原书参考文献第18条;只登记检索信息,未读外部全文
康德.道德形而上学奠基[M].杨云飞,译.北京:人民出版社,2013. 书 9 原书参考文献第19条;只登记检索信息,未读外部全文
甘绍平.应用伦理学前沿问题研究(第二版)[M].贵阳:贵州大学出版社,2019. 书 9 原书参考文献第20条;只登记检索信息,未读外部全文
RUSSELL S,NORVIG P Artificial Intelligence [M].4th. Hoboken:Pearson Education,2021. 书 9 原书参考文献第21条;只登记检索信息,未读外部全文
BARTNECK C,LÜTge C,WAGNER A,at al. An Introductionof Ethics in Robotics and AI [M]. Cham:Springer,2021. 书 9 原书参考文献第22条;只登记检索信息,未读外部全文
BODEN M A. Artificial Intelligence[M]. Oxford:Oxford University Press,2018. 书 9 原书参考文献第23条;只登记检索信息,未读外部全文
WALLACH W.A Dangerous Master (Kindle Edition)[M]. New York:Basic Books,2015. 书 9 原书参考文献第24条;只登记检索信息,未读外部全文
VAN D P I,ROYAKKERS L. Ethics,Technology,and Engineering[M]. Oxford:Wiley-Blackwell,2011. 书 9 原书参考文献第25条;只登记检索信息,未读外部全文
SIEP L. Konkrete Ethik[M]. Frankfurt:Suhrkamp,2016. 书 9 原书参考文献第26条;只登记检索信息,未读外部全文
SIEP L. Moral und Gottesbild[M].Münster:Mentis,2013. 书 9 原书参考文献第27条;只登记检索信息,未读外部全文
赵万一.机器人的法律主体地位辨析——兼谈对机器人进行法律规制的基本要求[J].贵州民族大学学报(哲学社会科学版),2018(3):147-167. 论文 9 原书参考文献第28条;只登记检索信息,未读外部全文
王利明.人工智能时代提出的法学新课题[J].中国法律评论,2018(2):1-4. 论文 9 原书参考文献第29条;只登记检索信息,未读外部全文
崔聪聪,许智鑫.机器学习算法的法律规制[J].上海交通大学学报(哲学社会科学版),2020,28(2):35-47. 论文 9 原书参考文献第30条;只登记检索信息,未读外部全文
王利明.人工智能时代对民法学的新挑战[J].东方法学,2018(3):4-9. 论文 9 原书参考文献第31条;只登记检索信息,未读外部全文
伦一.人工智能治理相关问题初探[J].信息通信技术与政策,2018(6):5. 论文 9 原书参考文献第32条;只登记检索信息,未读外部全文
朱体正.人工智能时代的法律因应[J].大连理工大学学报,2018,2. 论文 9 原书参考文献第33条;只登记检索信息,未读外部全文
杨文.IEEE发布三项人工智能新标准,涉及高层次伦理问题[EB/OL].2017. 论文 9 原书参考文献第34条;只登记检索信息,未读外部全文
范春平.科技伦理研究与教育的时代使命[EB/OL].2019. 论文 9 原书参考文献第35条;只登记检索信息,未读外部全文
本轮资金安全问题案例
问题标题 问题卡 解决方案卡(如有) 出现章节 一句话说明
本轮实践交接

实践候选筛选:done

原有3项保留并补齐原文、明确输入、行动、输出及判据;本轮仅完成计划交付,实践尚未执行。light未执行生成后笔记复核、独立审查及审查结果优化。

本轮实践卡进度
序号 实践标题 实践方式 状态(pending/done) 关联章节 产出
001 为模型输入建立质量门 真实任务 done 1 计划;尚未实际执行
002 为自动化结果保留可解释记录 真实任务 done 4 计划;尚未实际执行
003 做一次安全风险预警演练 决策实践 done 8 计划;尚未实际执行

未采用:复现攻击、生产系统改造、医疗干预、无人装备实操和当前法律判断;本次已有低成本本地任务可支持理解,不扩展为新的研究项目。

本轮完成范围

简介、前言和9章,68个连续阅读单元全部完成;3个非正文项排除。原38张知识卡原路径保留修订,新增139张,合计177张;6张结构图卡。原书105个图片资源(107处引用,含封面和注图标)结合正文实际检查。首次v6版本保留,本次v24。light未执行笔记复核、独立审查及审查结果优化。当前生成、导入对账和177张卡片归档全部完成,5条历史软链接已解析,无遗留项。

相关主题

从本书的主题进入跨书阅读,对照其他书籍的讲解。下方数量包含主题关联的全部卡片与书籍。

暂无公开主题。