知识卡片
安全源于自主性
能学习、做决定并执行行动的系统,会把数据偏差和目标设定错误转化为自主行为。人工智能的特殊安全问题由这些能力产生,并不覆盖机器人材料破损等全部工程风险。审查时既要检查设备可靠性,也要追问学到了什么、优化什么目标、能自主做哪些事。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 前言 自主能力为何扩大安全边界 · 查看原书依据
其具有“智能”和“思维”,可以通过学习来获得知识,可以做出自主性决策,进而可以执行自主性行动。区别于其他同类技术或工程系统的普适性安全问题,本书所讨论的人工智能安全问题集中于人工智能系统由于具有学习能力、自主决策、自主行动等智能行为而产生的
参考来源
- 位置:《人工智能安全》前言,自主能力为何扩大安全边界(源项目a19c7933-4eda-4176-aebd-30fe7e1ad292,源文件:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0003.xhtml)
- 结论依据:原文对该概念的说明、比较或案例支撑本卡解释;书中历史数据与技术预测保留原有时点,不当作当前已验证结论。
- 原始内容:其具有“智能”和“思维”,可以通过学习来获得知识,可以做出自主性决策,进而可以执行自主性行动。区别于其他同类技术或工程系统的普适性安全问题,本书所讨论的人工智能安全问题集中于人工智能系统由于具有学习能力、自主决策、自主行动等智能行为而产生的