知识卡片
LeNet5四层网络的构建
evaluate_lenet5用四个层搭出完整CNN。第一、二层是LeNetConvPoolLayer,各有20和50个5×5卷积核:28×28图像卷积后成24×24,池化后12×12;再卷积成8×8,池化后4×4。第三层把上层输出(批量,50,4,4)展平成(批量,800),接一个500单元的HiddenLayer。第四层是10类的LogisticRegression输出。梯度从cost经T.grad对layer3到layer0的全部参数统一求出,再用zip逐对生成参数与参数减学习率乘梯度的更新式;train_model、valid_model、test_model都是这套完整结构,只是givens的数据来源不同。训练后逐层保存权重。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第10章 认知计算与深度学习 · 查看原书依据
最后一层layer3是分类层,用的是逻辑回归中定义的LogisticRegression。layer3的输入是layer2的输出(500,500),layer3的输出就是(batch_size,n_out)=(500,10)。
参考来源
- 位置:《机器学习算法原理与编程实践》第10章 认知计算与深度学习(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00034.html)
- 结论依据:原文逐层给出卷积核数、尺寸变化与flatten后的800维输入,并说明全参数梯度更新与逐层保存,支撑四层网络的构建过程。
- 原始内容:最后一层layer3是分类层,用的是逻辑回归中定义的LogisticRegression。layer3的输入是layer2的输出(500,500),layer3的输出就是(batch_size,n_out)=(500,10)。