知识卡片
本地数据仍可能泄露
协作训练即使不直接集中原始数据,参与者交换的信息和共享资源仍可能暴露私密内容。把数据保存在本地只是限制一种流动形式,并非完整隐私保证。审查时还要识别谁能观察训练过程、模型输出和共享计算资源。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 概述 失效、滥用与衍生后果 · 查看原书依据
在具有竞争关系的多个用户参与的计算环境中,如联邦学习,多个用户可能需要共同参与模型训练(共享学习),而参与共享学习的用户用来进行训练的数据是他们的私密数据,在这种共享学习环境中,用户的私密数据可能被其他参与者窃取[17。 1.2.2.2 人
参考来源
- 位置:《人工智能安全》概述,失效、滥用与衍生后果(源项目a19c7933-4eda-4176-aebd-30fe7e1ad292,源文件:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0004.xhtml)
- 结论依据:原文对该概念的说明、比较或案例支撑本卡解释;书中历史数据与技术预测保留原有时点,不当作当前已验证结论。
- 原始内容:在具有竞争关系的多个用户参与的计算环境中,如联邦学习,多个用户可能需要共同参与模型训练(共享学习),而参与共享学习的用户用来进行训练的数据是他们的私密数据,在这种共享学习环境中,用户的私密数据可能被其他参与者窃取[17。 1.2.2.2 人