原书出处
机器学习算法原理与编程实践
10 第10章 认知计算与深度学习
用的是tanh激活函数,这个区间应为 ,这里fanin 是在第i-1层的单元数量。而对于sigmoid函数,间隔是 。
这个初始化可以保证在早期训练中,每个神经元都运行一个激活函数,信息可以很容易地向上(从输入到输出流的激活函数)和向后(从输出到输入流的梯度)传播。
10.2.6 多层感知器的实现 多层感知器可以理解为包含隐含层的神经网络。Theano在实现上使用了两个类:隐含层类和
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00034.html
EPUB SHA-256:70d8d79af4c27e857a132f2bb0cf0dbfa14854fa17c13eacb72320d7c9bf315d