原书出处
人工智能安全
1 概述 学习系统的特有薄弱环节
因可能是环境的变化、过程的变化等,并不是人为因素;
在对抗样本攻击中,对于一定的模型,攻击者可以计算出一些有害数据,仅对数据做出微小的(从而难以被人发现的)扰动,就能使系统做出错误的判断或决策。Szegedy等人2014年的研究[38]发现,神经网络存在对抗样本,这些对抗样本可以通过对测试的
图像施以很小的、难以被人觉察的扰动,使网络预测错误
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0004.xhtml
EPUB SHA-256:7c49472341845eb057accff22931d42be02c792b954dd7d3c3c27ee6016ef873