知识卡片
训练循环与预测函数
训练沿 PyTorch 标准流程:先定义 get_predictions 在 no_grad 下遍历 DataLoader,把三种张量按参数名送入模型,取 logits 最大值作为预测,可选累计正确数算准确率。训练时模型设为 train 模式并移到 GPU,用 Adam(lr=1e-5)更新参数,跑 6 个 epoch,每轮前向、算损失、反向、更新。结果显示 loss 从约 49.7 降到 7.4,准确率升到 0.986,小样本上已相当不错。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第14章 用BERT实现中文语句分类 · 查看原书依据
从准确率可以看出,我们的分类模型在非常小量的训练集的表现已经十分不错,接着让我们看看这个模型的具体情况。
参考来源
- 位置:《深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)》第14章 用BERT实现中文语句分类(源文件:extracted/深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)/_epub-src/OEBPS/Text/Chapter18_0004.xhtml)
- 结论依据:14.4.1 与 14.4.2 节给出 get_predictions 与训练循环代码,并附 6 轮的 loss/acc 数值与收尾评价。
- 原始内容:从准确率可以看出,我们的分类模型在非常小量的训练集的表现已经十分不错,接着让我们看看这个模型的具体情况。