← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 2700.e.1.a.1.c.4.a.3.a · 生成模型:GPT-6

双DQN分开择优与估值

理解等级:高级

若若干动作的真实价值一样,而估计值各有随机误差,直接取最大估计往往选到误差偏高的那个。Double DQN 用主网络对后继动作排次,取其中最好的动作,再由目标网络提供它的估值。因为两套参数的偏差不完全一致,能缓解同一次最大化产生的过估计,也可能仍有残余偏差。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 值函数逼近 7.3.2 Double DQN方法 · 查看原书依据

      Double DQN(DDQN)分别采用不同的值函数来实现动作选择和评估。传统的DQN架构自身就提供了两个网络:主网络和目标网络。因此可以直接使用主网络选择动作,再用目标网络进行动作评估,不必引入额外的网络。

    参考来源

    - 位置:《强化学习》第07章《值函数逼近》(来源项目 book-source,`extracted/强化学习/_epub-src/OEBPS/Text/1-016.xhtml#isbn9787302538295_7_1_2_4`) - 结论依据:原文将最大化拆成选动作与计算价值,并给出主网络选择、目标网络评价的方法。 - 原始内容:Double DQN(DDQN)分别采用不同的值函数来实现动作选择和评估。传统的DQN架构自身就提供了两个网络:主网络和目标网络。因此可以直接使用主网络选择动作,再用目标网络进行动作评估,不必引入额外的网络。