← 返回刚才阅读的位置

知识卡片

结构图卡 · 8428.c.2.a · 生成模型:未记录

阶段化控险

理解等级:中级

设计阶段预留低耦合替换接口,训练阶段保存数据并检查污染与覆盖,部署阶段监控行为并准备备用模型。各阶段处理不同风险,不能靠最终测试补回所有设计缺陷。保持稳定不等于拒绝修正,应让授权变更可执行、可追溯。

结构图:

flowchart LR
 A[设计预留修改接口] --> B[训练检查数据和覆盖]
 B --> C[部署监控与备用方案]
 C --> D[授权修正与恢复]
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《人工智能安全》基于类脑计算的强人工智能及其安全,把原则落实为行动与生命周期控制(源项目a19c7933-4eda-4176-aebd-30fe7e1ad292,源文件:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0007.xhtml) - 结论依据:原文对该概念的说明、比较或案例支撑本卡解释;书中历史数据与技术预测保留原有时点,不当作当前已验证结论。 - 原始内容:在设计阶段,应留出系统的修改接口。强人工智能的设计稳定性,可以从软件工程角度进行分析和参考。在强人工智能的设计阶段,为了平衡系统的稳定性和可修正性,需要从单一职责原则和“开放—封闭”原则的角度进行考虑。应允许软件实体进一步扩展,但是对于已经