知识卡片

普通读书笔记卡 · 8873.h · 生成模型:GPT-6

激活最大化优化输入而非权重

理解等级:中级

为了观察模型偏好的输入,可以固定预训练网络参数,对输入像素做梯度上升以提高指定神经元或层的激活。结果揭示该优化目标下模型容易响应的模式,但依赖初始化、正则化和选定目标,不能单凭可视化证明模型具有人类概念或因果理解。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习:从基础到实践(上下册)》第28章《创造性应用》28.2(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0036_split_002.html`) - 结论依据:我们不会改变任何权重。 - 原始内容:我们不会改变任何权重。毕竟,我们在这一点上没有兴趣教网络任何东西。相反,我们将把反向传播误差梯度一直推到输入层。