知识卡片
批量随机与小批量
批量梯度下降以整个训练集的平均损失计算一次更新;随机梯度下降每次以单个样本的梯度更新;小批量梯度下降用一部分样本的平均梯度更新。批大小为 1 或训练集总数时分别退化为两端。样本顺序若有结构,依次读取不自动等于随机抽样,通常需考虑打乱。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 优化器 3.2 BGD、SGD和MBGD · 查看原书依据
MBGD是对上述两个极端方法的折中
参考来源
- 位置:《用Python实现深度学习框架》第3章《优化器》,3.2 BGD、SGD和MBGD(来源项目 book-source:`extracted/用Python实现深度学习框架/_epub-src/text/part0000_split_025.html`)
- 结论依据:原文比较三种批大小、推导平均梯度,并以批矩阵代码演示计算;勘误依据同节代码节点名称。
- 原始内容:MBGD是对上述两个极端方法的折中。