← 返回卡片

原书出处

人工智能安全

4 基于类脑计算的强人工智能及其安全 能力、通用性、控制与风险

核验版本的摘录快照 · 导入于 2026-11-14T08:17:48.864Z

力和通用性及更低的控制可能会带来更大的风险。然而,

能力较低的系统也会因为无法有效履行职责而引发风险。这就是一个明显的安全问题,可以归类为“已知的未知”。另外,随着系统在给定领域中能力不断增加,还会产生“未知的未知”。智能体一旦变得“有能力”,就会造成不确定性,即如果智能体在一个领域中的能力

比人类强,那么人类就不能完全预测智能体在该领域中的

此预览只包含定位所需的摘录和上下文。

原书定位详情

来源:a19c7933-4eda-4176-aebd-30fe7e1ad292

正文位置:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0007.xhtml

EPUB SHA-256:7c49472341845eb057accff22931d42be02c792b954dd7d3c3c27ee6016ef873