知识卡片
开放组件仍需安全评测
开源框架和预训练模型能复用能力,也会传播第三方漏洞、后门或数据缺陷。开放可见不等于经过充分安全评测。纳入组件时应分别核对代码、训练数据和模型行为的风险;平台本身正常运行也不能证明输出可信。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 概述 从应用失误到系统性风险 · 查看原书依据
以机器学习开源框架平台和预训练模型库为代表的算法基础设施,因开发者蓄意破坏或代码实现不完善而面临算法后门嵌入、代码安全漏洞等风险。2020年9月,安全厂商“360”(北京奇虎科技有限公司)公开披露谷歌开源框架平台TensorFlow存在24
参考来源
- 位置:《人工智能安全》概述,从应用失误到系统性风险(源项目a19c7933-4eda-4176-aebd-30fe7e1ad292,源文件:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0004.xhtml)
- 结论依据:原文对该概念的说明、比较或案例支撑本卡解释;书中历史数据与技术预测保留原有时点,不当作当前已验证结论。
- 原始内容:以机器学习开源框架平台和预训练模型库为代表的算法基础设施,因开发者蓄意破坏或代码实现不完善而面临算法后门嵌入、代码安全漏洞等风险。2020年9月,安全厂商“360”(北京奇虎科技有限公司)公开披露谷歌开源框架平台TensorFlow存在24