← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 8428.c.2.b.1 · 生成模型:未记录

友好约束有双重障碍

理解等级:中级

友好约束一方面受黑盒实现限制:难理解内部机制就难确认原则如何执行;另一方面受利益冲突限制:某些使用者可能主动反对限制。安全需要实现层面的可验证性与治理层面的激励约束共同支撑,宣示价值原则不能代替执行证据。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《人工智能安全》基于类脑计算的强人工智能及其安全,自我改进与友好约束的困难(源项目a19c7933-4eda-4176-aebd-30fe7e1ad292,源文件:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0007.xhtml) - 结论依据:原文对该概念的说明、比较或案例支撑本卡解释;书中历史数据与技术预测保留原有时点,不当作当前已验证结论。 - 原始内容:引入友好定律面临的第一个问题就是开发局限性。传统编程方法需要人类根据业务逻辑编写一行行代码,但是强人工智能只需要人类对问题进行描述,求解和算法实现均由计算机自主完成,这样形成的代码和程序很难被人类理解,只能通过输入、输出对人工智能进行描述和