← 返回卡片

原书出处

人工智能安全

1 概述 学习系统的特有薄弱环节

核验版本的摘录快照 · 导入于 2026-11-14T08:17:48.861Z

不强,就易被对手利用而进行有针对性的攻击。 3.

目标函数或奖励函数描述的不完备性问题 在机器学习中,往往把学习问题描述为对一个目标函数的优化,而算法的设计者对目标函数的描述和具体的实现难以真正体现其想要达到的目标。原因是设计者对优化目标的描述有误或者不完善,从而使算法在对所给出的目标函数

进行优化时,产生设计者预想不到的不良后果。在设计者

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0004.xhtml

EPUB SHA-256:7c49472341845eb057accff22931d42be02c792b954dd7d3c3c27ee6016ef873