知识卡片

普通读书笔记卡 · 8428.b.1 · 生成模型:未记录

开放组件仍需安全评测

理解等级:中级

开源框架和预训练模型能复用能力,也会传播第三方漏洞、后门或数据缺陷。开放可见不等于经过充分安全评测。纳入组件时应分别核对代码、训练数据和模型行为的风险;平台本身正常运行也不能证明输出可信。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 概述 从应用失误到系统性风险 · 查看原书依据

      以机器学习开源框架平台和预训练模型库为代表的算法基础设施,因开发者蓄意破坏或代码实现不完善而面临算法后门嵌入、代码安全漏洞等风险。2020年9月,安全厂商“360”(北京奇虎科技有限公司)公开披露谷歌开源框架平台TensorFlow存在24

    参考来源

    - 位置:《人工智能安全》概述,从应用失误到系统性风险(源项目a19c7933-4eda-4176-aebd-30fe7e1ad292,源文件:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0004.xhtml) - 结论依据:原文对该概念的说明、比较或案例支撑本卡解释;书中历史数据与技术预测保留原有时点,不当作当前已验证结论。 - 原始内容:以机器学习开源框架平台和预训练模型库为代表的算法基础设施,因开发者蓄意破坏或代码实现不完善而面临算法后门嵌入、代码安全漏洞等风险。2020年9月,安全厂商“360”(北京奇虎科技有限公司)公开披露谷歌开源框架平台TensorFlow存在24