知识卡片

普通读书笔记卡 · 9417.e.1 · 生成模型:GPT-6

批量随机与小批量

理解等级:中级

批量梯度下降以整个训练集的平均损失计算一次更新;随机梯度下降每次以单个样本的梯度更新;小批量梯度下降用一部分样本的平均梯度更新。批大小为 1 或训练集总数时分别退化为两端。样本顺序若有结构,依次读取不自动等于随机抽样,通常需考虑打乱。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《用Python实现深度学习框架》第3章《优化器》,3.2 BGD、SGD和MBGD(来源项目 book-source:`extracted/用Python实现深度学习框架/_epub-src/text/part0000_split_025.html`) - 结论依据:原文比较三种批大小、推导平均梯度,并以批矩阵代码演示计算;勘误依据同节代码节点名称。 - 原始内容:MBGD是对上述两个极端方法的折中。