← 返回卡片

原书出处

人工智能安全

1 概述 学习系统的特有薄弱环节

核验版本的摘录快照 · 导入于 2026-11-14T08:17:48.861Z

因可能是环境的变化、过程的变化等,并不是人为因素;

在对抗样本攻击中,对于一定的模型,攻击者可以计算出一些有害数据,仅对数据做出微小的(从而难以被人发现的)扰动,就能使系统做出错误的判断或决策。Szegedy等人2014年的研究[38]发现,神经网络存在对抗样本,这些对抗样本可以通过对测试的

图像施以很小的、难以被人觉察的扰动,使网络预测错误

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0004.xhtml

EPUB SHA-256:7c49472341845eb057accff22931d42be02c792b954dd7d3c3c27ee6016ef873