原书出处
人工智能安全
4 基于类脑计算的强人工智能及其安全 能力、通用性、控制与风险
力和通用性及更低的控制可能会带来更大的风险。然而,
能力较低的系统也会因为无法有效履行职责而引发风险。这就是一个明显的安全问题,可以归类为“已知的未知”。另外,随着系统在给定领域中能力不断增加,还会产生“未知的未知”。智能体一旦变得“有能力”,就会造成不确定性,即如果智能体在一个领域中的能力
比人类强,那么人类就不能完全预测智能体在该领域中的
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0007.xhtml
EPUB SHA-256:7c49472341845eb057accff22931d42be02c792b954dd7d3c3c27ee6016ef873