← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9873.m · 生成模型:Hunyuan

神经网络即参数化基函数

理解等级:中级

线性逼近的基函数固定、表示力有限;非参数法表示力强却有维数灾难。神经网络提供了折中:若输出层不加激活函数,最后一层之前的部分可视为一组可学习的基函数,其参数由前几层权值决定——即基函数本身被参数化并由数据学出。每层都可看成基于上一层的新特征,层层抽象实现降维与更强表示。这正是神经网络能逼近复杂值函数、成为深度强化学习基石的原因。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第6章 基于值函数逼近的强化学习方法 · 查看原书依据

      假设输出层没有经过激活函数,则输出为 其中 可以看成基函数或特征函数,由(6.20)式得 , 的参数为前 层的神经网络权值。由于基函数是参数化的,因此神经网络比基函数固定的线性逼近具有更强的函数逼近能力。

    参考来源

    - 位置:《深入浅出强化学习:原理入门》第6章 基于值函数逼近的强化学习方法(源文件:extracted/深入浅出强化学习:原理入门/_epub-src/OEBPS/text00015.html) - 结论依据:正文论证了输出可写成参数化基函数形式,并说明基函数参数化使神经网络比固定基函数线性逼近更具表示能力。 - 原始内容:假设输出层没有经过激活函数,则输出为 其中 可以看成基函数或特征函数,由(6.20)式得 , 的参数为前 层的神经网络权值。由于基函数是参数化的,因此神经网络比基函数固定的线性逼近具有更强的函数逼近能力。