来源书籍

深度学习的数学

Skill 版本:v24 31 张卡片

涌井良幸、涌井贞美 · 杨瑞龙 译 · 人民邮电出版社 · 2019-05-02 · ISBN 9787115509345

章节与卡片

05 前言

1 张卡片
  1. 从样本学习识别规则 理解等级:中级 普通读书笔记卡

10 1-2 神经元工作的数学表示

1 张卡片
  1. 加权输入与点火 理解等级:中级 普通读书笔记卡

11 1-3 激活函数:将神经元的工作一般化

1 张卡片
  1. 偏置与连续激活 理解等级:中级 普通读书笔记卡

12 1-4 什么是神经网络

1 张卡片
  1. 分层网络组合特征 理解等级:中级 普通读书笔记卡

13 1-5 用恶魔来讲解神经网络的结构

1 张卡片
  1. 隐藏单元响应局部模式 理解等级:中级 普通读书笔记卡

15 1-7 网络自学习的神经网络

1 张卡片
  1. 监督学习是参数优化 理解等级:中级 普通读书笔记卡

17 2-1 神经网络所需的函数

1 张卡片
  1. 仿射输入和随机初值 理解等级:中级 普通读书笔记卡

18 2-2 有助于理解神经网络的数列和递推关系式

1 张卡片
  1. 递推复用相邻层结果 理解等级:中级 普通读书笔记卡

19 2-3 神经网络中经常用到的∑符号

1 张卡片
  1. 求和下标与线性 理解等级:中级 普通读书笔记卡

20 2-4 有助于理解神经网络的向量基础

1 张卡片
  1. 内积衡量方向对齐 理解等级:中级 普通读书笔记卡

21 2-5 有助于理解神经网络的矩阵基础

1 张卡片
  1. 矩阵乘法与逐项乘积 理解等级:中级 普通读书笔记卡

22 2-6 神经网络的导数基础

1 张卡片
  1. 导数与驻点 理解等级:中级 普通读书笔记卡

23 2-7 神经网络的偏导数基础

1 张卡片
  1. 偏导数固定其他变量 理解等级:中级 普通读书笔记卡

24 2-8 误差反向传播法必需的链式法则

1 张卡片
  1. 链式法则累加多条路径 理解等级:中级 普通读书笔记卡

25 2-9 梯度下降法的基础:多变量函数的近似公式

1 张卡片
  1. 梯度给出局部线性变化 理解等级:中级 普通读书笔记卡

26 2-10 梯度下降法的含义与公式

1 张卡片
  1. 负梯度是一阶下降方向 理解等级:中级 普通读书笔记卡

27 哈密顿算子

1 张卡片
  1. 学习率缩放梯度 理解等级:中级 普通读书笔记卡

29 2-12 最优化问题和回归分析

1 张卡片
  1. 最小二乘连接回归和训练 理解等级:中级 普通读书笔记卡

31 3-1 神经网络的参数和变量

1 张卡片
  1. 区分模型参数与样本变量 理解等级:中级 普通读书笔记卡

32 3-2 神经网络的变量的关系式

1 张卡片
  1. 前向传播逐层计算 理解等级:中级 普通读书笔记卡

33 3-3 学习数据和正解

1 张卡片
  1. 类别标签对齐输出单元 理解等级:中级 普通读书笔记卡

34 3-4 神经网络的代价函数

1 张卡片
  1. 训练代价汇总样本误差 理解等级:中级 普通读书笔记卡

37 4-1 梯度下降法的回顾

1 张卡片
  1. 先算单样本梯度再累加 理解等级:中级 普通读书笔记卡

38 4-2 神经单元误差

1 张卡片
  1. 单元误差还原参数梯度 理解等级:中级 普通读书笔记卡

39 4-3 神经网络和误差反向传播法

1 张卡片
  1. 反传逐层复用误差 理解等级:中级 普通读书笔记卡

40 4-4 用 Excel 体验神经网络的误差反向传播法

1 张卡片
  1. 训练迭代的前向反向与更新 理解等级:中级 普通读书笔记卡

42 5-1 小恶魔来讲解卷积神经网络的结构

1 张卡片
  1. 卷积层扫描局部图案 理解等级:中级 普通读书笔记卡

43 5-2 将小恶魔的工作翻译为卷积神

1 张卡片
  1. 最大池化保留最强响应 理解等级:中级 普通读书笔记卡

44 5-3 卷积神经网络的变量关系式

1 张卡片
  1. 特征图共享核和偏置 理解等级:中级 普通读书笔记卡

46 5-5 卷积神经网络和误差反向传播法

1 张卡片
  1. 卷积核梯度汇总所有窗口 理解等级:中级 普通读书笔记卡

50 C 用数学式表示模式的相似度

1 张卡片
  1. 图案点积与幅值影响 理解等级:中级 普通读书笔记卡

全书概览

《深度学习的数学》概览

Skill 版本:v24 执行模式:light 建档进度:done 评级:经典原理,高信息浓度、高稳定性。核心材料沿同一个手写识别例子推导前向、损失、反传,并用卷积展示参数共享。历史事件和工具版本仅作辅助。 优先级:P4(AI 专项) 整书笔记:阅读正文 整书笔记版本:schema 1,SHA-256 46c8c6b45574ffcd71d2f6e180e1bc50ae78ef76d828d36f078e4f3a8c20b889

章节进度追踪表

章节号 章节标题 状态(pending/done) 卡片数
05 前言 done 1
06 本书的使用说明 done 0
07 Excel 示例文件的下载 done 0
08 第 1 章 神经网络的思想 done 0
09 1-1 神经网络和深度学习 done 0
10 1-2 神经元工作的数学表示 done 1
11 1-3 激活函数:将神经元的工作一般化 done 1
12 1-4 什么是神经网络 done 1
13 1-5 用恶魔来讲解神经网络的结构 done 1
14 1-6 将恶魔的工作翻译为神经网络的语言 done 0
15 1-7 网络自学习的神经网络 done 1
16 第 2 章 神经网络的数学基础 done 0
17 2-1 神经网络所需的函数 done 1
18 2-2 有助于理解神经网络的数列和递推关系式 done 1
19 2-3 神经网络中经常用到的∑符号 done 1
20 2-4 有助于理解神经网络的向量基础 done 1
21 2-5 有助于理解神经网络的矩阵基础 done 1
22 2-6 神经网络的导数基础 done 1
23 2-7 神经网络的偏导数基础 done 1
24 2-8 误差反向传播法必需的链式法则 done 1
25 2-9 梯度下降法的基础:多变量函数的近似公式 done 1
26 2-10 梯度下降法的含义与公式 done 1
27 哈密顿算子 done 1
28 2-11 用 Excel 体验梯度下降法 done 0
29 2-12 最优化问题和回归分析 done 1
30 第 3 章 神经网络的最优化 done 0
31 3-1 神经网络的参数和变量 done 1
32 3-2 神经网络的变量的关系式 done 1
33 3-3 学习数据和正解 done 1
34 3-4 神经网络的代价函数 done 1
35 3-5 用 Excel 体验神经网络 done 0
36 第 4 章 神经网络和误差反向传播法 done 0
37 4-1 梯度下降法的回顾 done 1
38 4-2 神经单元误差 done 1
39 4-3 神经网络和误差反向传播法 done 1
40 4-4 用 Excel 体验神经网络的误差反向传播法 done 1
41 第 5 章 深度学习和卷积神经网络 done 0
42 5-1 小恶魔来讲解卷积神经网络的结构 done 1
43 5-2 将小恶魔的工作翻译为卷积神 done 1
44 5-3 卷积神经网络的变量关系式 done 1
45 5-4 用 Excel 体验卷积神经网络 done 0
46 5-5 卷积神经网络和误差反向传播法 done 1
47 5-6 用 Excel 体验卷积神经网络的误差反向传播法 done 0
48 附录 done 0
49 B 训练数据(2) done 0
50 C 用数学式表示模式的相似度 done 1

非正文排除

spine项 类型 排除理由
1 titlepage.xhtml 封面 封面图与书名页
2 text/part0000_split_000.html 版权 版本、著译者和授权说明
3 text/part0000_split_001.html 目录 链接导航
4 text/part0000_split_002.html 版权 发行及权利声明
51 text/part0000_split_049.html 出版服务 答疑联系方式与社交账号

待关联术语

术语名 出现章节 一句话语境
张量 2-4 备注从应力张量引出多下标表示。
正则化 2-7 提及拉格朗日乘数法的应用,未推导正则化。

引用文献

标题 类型(书/论文/框架/源码项目) 出现章节 一句话语境
TensorFlow 框架 2-4、5-2 张量命名与工具举例。

资金安全问题案例

问题标题 问题卡 解决方案卡(如有) 出现章节 一句话说明

实践卡进度

序号 实践标题 实践方式 状态(pending/done) 关联章节 产出
1 比较学习率与下降轨迹 真实任务 done 哈密顿算子 ideas/idea-001-比较学习率与下降轨迹.md
2 检查共享卷积核的梯度 真实任务 done 5-5 卷积神经网络和误差反向传播法 ideas/idea-002-检查共享卷积核的梯度.md

实践候选筛选:done

未采用整本教程复刻和平台试用。前者超出可验证的局部目标,后者依赖外部服务。

相关主题

从本书的主题进入跨书阅读,对照其他书籍的讲解。下方数量包含主题关联的全部卡片与书籍。

暂无公开主题。