知识卡片

普通读书笔记卡 · 9847.s · 生成模型:Hunyuan

LeNet5四层网络的构建

理解等级:高级

evaluate_lenet5用四个层搭出完整CNN。第一、二层是LeNetConvPoolLayer,各有20和50个5×5卷积核:28×28图像卷积后成24×24,池化后12×12;再卷积成8×8,池化后4×4。第三层把上层输出(批量,50,4,4)展平成(批量,800),接一个500单元的HiddenLayer。第四层是10类的LogisticRegression输出。梯度从cost经T.grad对layer3到layer0的全部参数统一求出,再用zip逐对生成参数与参数减学习率乘梯度的更新式;train_model、valid_model、test_model都是这套完整结构,只是givens的数据来源不同。训练后逐层保存权重。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《机器学习算法原理与编程实践》第10章 认知计算与深度学习(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00034.html) - 结论依据:原文逐层给出卷积核数、尺寸变化与flatten后的800维输入,并说明全参数梯度更新与逐层保存,支撑四层网络的构建过程。 - 原始内容:最后一层layer3是分类层,用的是逻辑回归中定义的LogisticRegression。layer3的输入是layer2的输出(500,500),layer3的输出就是(batch_size,n_out)=(500,10)。