知识卡片
行为度量比较调用路径
行为度量将程序的系统调用序列与预期执行图比较,允许合法调用并拒绝非法调用。它针对执行路径偏离,补充只检查文件字节的方式。行为高度多样时难以建立充分模型,任务相对固定的嵌入式场景更容易实施。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 可信计算保障人工智能安全 从静态启动到动态行为度量 · 查看原书依据
正常的生产活动按一定的步骤执行任务,攻击者往往会改变正常的行为序列,行为度量通过比较正在执行的行为序列与基准的行为序列来对人工智能进程行为进行度量,如果两者不匹配,则表明进程可能已经受到攻击,即可采取措施(报警或者停止当前进程的活动)。 行
参考来源
- 位置:《人工智能安全》可信计算保障人工智能安全,从静态启动到动态行为度量(源项目a19c7933-4eda-4176-aebd-30fe7e1ad292,源文件:extracted/人工智能安全/_epub-src/EPUB/xhtml/Section0001_0005.xhtml)
- 结论依据:原文对该概念的说明、比较或案例支撑本卡解释;书中历史数据与技术预测保留原有时点,不当作当前已验证结论。
- 原始内容:正常的生产活动按一定的步骤执行任务,攻击者往往会改变正常的行为序列,行为度量通过比较正在执行的行为序列与基准的行为序列来对人工智能进程行为进行度量,如果两者不匹配,则表明进程可能已经受到攻击,即可采取措施(报警或者停止当前进程的活动)。 行