来源书籍

文本上的算法——深入浅出自然语言处理

Skill 版本:v24 81 张卡片

路彦雄 · 人民邮电出版社

章节与卡片

00

2 张卡片
  1. 全书的两篇与依赖顺序 理解等级:初级 结构图卡
  2. 口语化写作的取舍 理解等级:中级 普通读书笔记卡

01 第1章 你必须知道的一些基础知识

7 张卡片
  1. 熵是不确定性的度量 理解等级:初级 普通读书笔记卡
  2. KL散度不是真正的距离 理解等级:中级 普通读书笔记卡
  3. 交叉熵是编码代价的绝对值 理解等级:中级 普通读书笔记卡
  4. 词的互信息靠共现统计 理解等级:中级 普通读书笔记卡
  5. 贝叶斯法则拆开三个部件 理解等级:中级 普通读书笔记卡
  6. 分词歧义写成概率最大化 理解等级:高级 问题卡
  7. 数据稀疏逼出平滑 理解等级:高级 普通读书笔记卡

02 第2章 我们生活在一个寻求最优解的世界里

7 张卡片
  1. 损失函数量的是误差 理解等级:中级 普通读书笔记卡
  2. 用经验风险逼近期望风险 理解等级:高级 普通读书笔记卡
  3. 正则化给复杂度定价 理解等级:高级 普通读书笔记卡
  4. 偏差与方差的分工 理解等级:中级 普通读书笔记卡
  5. 最大似然估计的三步 理解等级:中级 普通读书笔记卡
  6. 最大后验只取后验的峰 理解等级:高级 普通读书笔记卡
  7. 梯度下降与它的随机版本 理解等级:中级 普通读书笔记卡

04 第4章 如何计算得更快

7 张卡片
  1. 存储器分层与局部性 理解等级:中级 普通读书笔记卡
  2. 优化分三级,系统级最大 理解等级:中级 普通读书笔记卡
  3. 空间换时间:先算好再读 理解等级:中级 普通读书笔记卡
  4. 磁盘慢在寻道与旋转 理解等级:中级 普通读书笔记卡
  5. 分布式=用多机分治 理解等级:初级 普通读书笔记卡
  6. 同键聚合让计算可扩展 理解等级:高级 结构图卡
  7. HDFS 用中心节点管块 理解等级:中级 普通读书笔记卡

05 第5章 你要知道的一些术语

6 张卡片
  1. tf 是局部,idf 是全局 理解等级:中级 普通读书笔记卡
  2. 三类特征选择度量 理解等级:中级 普通读书笔记卡
  3. PageRank 把链接当投票 理解等级:中级 普通读书笔记卡
  4. 相似度:距离与哈希 理解等级:中级 普通读书笔记卡
  5. 文本相似度先变成定长向量 理解等级:中级 普通读书笔记卡
  6. 相似度模型逐层加特征 理解等级:高级 结构图卡

06 第6章 搜索引擎是什么玩意儿

12 张卡片
  1. 索引把线上计算搬到线下 理解等级:高级 普通读书笔记卡
  2. 点击调权会自我强化 理解等级:高级 普通读书笔记卡
  3. 检索是逐层收窄的漏斗 理解等级:高级 结构图卡
  4. 爬虫就是遍历网页图 理解等级:初级 普通读书笔记卡
  5. Query里的tf恒为1 理解等级:中级 普通读书笔记卡
  6. term紧密度决定能否拆开 理解等级:中级 普通读书笔记卡
  7. 变换必须整句替换 理解等级:高级 普通读书笔记卡
  8. 归并:大数组还是优先队列 理解等级:高级 普通读书笔记卡
  9. 用得分上界跳过文档 理解等级:高级 普通读书笔记卡
  10. 词的and/or改变了剪枝 理解等级:高级 普通读书笔记卡
  11. 绕开损失定义梯度 理解等级:高级 普通读书笔记卡
  12. 索引拆成四个库 理解等级:中级 普通读书笔记卡

07 第7章 如何让机器猜得更准

6 张卡片
  1. 协同过滤借相似者的评分 理解等级:中级 普通读书笔记卡
  2. 物品相似度适合离线算 理解等级:高级 普通读书笔记卡
  3. 稀疏与冷启动是硬伤 理解等级:中级 普通读书笔记卡
  4. 把用户兴趣当作查询 理解等级:中级 普通读书笔记卡
  5. 推荐的三段式框架 理解等级:高级 结构图卡
  6. 伪个性化:标签代表不了兴趣 理解等级:高级 普通读书笔记卡

08 第8章 理解语言有多难

10 张卡片
  1. 理想流程与真实管线 理解等级:中级 结构图卡
  2. 专名识别就是找词边界 理解等级:中级 普通读书笔记卡
  3. 依存句法的两种解法 理解等级:高级 普通读书笔记卡
  4. 句法分析为何难落地 理解等级:高级 普通读书笔记卡
  5. 语义分析写成逻辑式 理解等级:中级 普通读书笔记卡
  6. 知识图谱的两条抽取路线 理解等级:中级 普通读书笔记卡
  7. 任务型对话的状态推进 理解等级:高级 结构图卡
  8. 闲聊系统与评价的困境 理解等级:中级 普通读书笔记卡
  9. 组合爆炸让语义难以量化 理解等级:高级 普通读书笔记卡
  10. 歧义是NLP真正的难点 理解等级:中级 普通读书笔记卡

09 结语

1 张卡片
  1. 个性化越深隐私越少 理解等级:中级 普通读书笔记卡

03a

10 张卡片
  1. 机器学习的三要素 理解等级:初级 普通读书笔记卡
  2. 欠拟合与过拟合 理解等级:中级 普通读书笔记卡
  3. 特征工程的四个动作 理解等级:中级 普通读书笔记卡
  4. 判别式与生成式模型 理解等级:高级 普通读书笔记卡
  5. 逻辑回归为何弃用平方损失 理解等级:中级 普通读书笔记卡
  6. 因子分解机用隐向量解稀疏 理解等级:中级 普通读书笔记卡
  7. 最大熵:未知处不做假设 理解等级:中级 普通读书笔记卡
  8. 词袋假设与主题模型 理解等级:初级 普通读书笔记卡
  9. 隐变量模型的近似求解 理解等级:高级 普通读书笔记卡
  10. 从感知器到BP网络 理解等级:中级 结构图卡

03b

13 张卡片
  1. 反向传播:误差从后往前算 理解等级:中级 普通读书笔记卡
  2. 深层网络的三个训练障碍 理解等级:高级 普通读书笔记卡
  3. 词袋为什么算不出近义 理解等级:初级 普通读书笔记卡
  4. 词向量是语言模型的副产品 理解等级:中级 普通读书笔记卡
  5. CBOW 与 skip-gram 互为反任务 理解等级:中级 普通读书笔记卡
  6. 交叉熵为何等价对数似然 理解等级:中级 普通读书笔记卡
  7. RNN 的梯度爆炸与消失 理解等级:中级 普通读书笔记卡
  8. LSTM 用门控筛选记忆 理解等级:中级 普通读书笔记卡
  9. Attention 突破定长向量瓶颈 理解等级:高级 普通读书笔记卡
  10. CNN 靠卷积和池化省参数 理解等级:中级 普通读书笔记卡
  11. 防过拟合的八条实操 理解等级:中级 操作参考卡
  12. GBDT 用负梯度拟合残差树 理解等级:高级 普通读书笔记卡
  13. 文本分类:特征选择还是表示学习 理解等级:中级 普通读书笔记卡

全书概览

文本上的算法——深入浅出自然语言处理

评级:经典原理(信息浓度高 × 稳定性中高)

评级理由:全书的重心是”这个算法为什么这么设计、它在什么条件下成立”,而不是某套工具的调用方式。概率与信息论的基本量、最优化与梯度下降、机器学习的三要素(样本/特征/模型)、倒排索引与向量空间模型、TF-IDF 的权重结构、排序学习的评估口径——这些推理不随框架版本变化。稳定性的折扣来自应用篇:第4章对 Hadoop 与 SSD 的讨论、第8章对深度学习当时进展的描述,都带有明显的时代印记,具体工具与模型榜单会过时。作者刻意采用口语化讲解与比喻,抛弃繁琐证明而直取算法核心,真正的技术结论集中在每节的后半段,因此阅读时应把故事当作引子、把结论当作知识。

执行模式:light

建档进度:done

全文阅读:spine 18 项;实质正文 10 项(前言、第1–8章、结语;第3章因 EPUB 拆成两个文件,按上/下两段处理,合计约 111,833 个非空白字符),按 Go nodeText + Fields 归一化口径逐项完整读取;非正文 7 项逐项排除(见下表)。

整书笔记:_book_note.md

覆盖记录:_coverage.md

工作流交接:_workflow.md

章节进度追踪表

章节号 章节标题 状态 卡片数
00 前言 done 2
01 第1章 你必须知道的一些基础知识 done 7
02 第2章 我们生活在一个寻求最优解的世界里 done 7
03 第3章 让机器可以像人一样学习 done 23
04 第4章 如何计算得更快 done 7
05 第5章 你要知道的一些术语 done 6
06 第6章 搜索引擎是什么玩意儿 done 12
07 第7章 如何让机器猜得更准 done 6
08 第8章 理解语言有多难 done 10
09 结语 done 1

非正文排除

spine项 类型 排除理由
titlepage.xhtml 封面 仅封面图,无文字
text/00001.xhtml 封面页 仅 5 个字符,无内容
text/00002.xhtml 版权信息 书名、出版方、ISBN 等出版信息
text/00003.html 内容提要 图书宣传文案
text/00005.html 篇章页 「理论篇」分隔页,仅 62 字符
text/00010.html 篇章页 「应用篇」分隔页,仅 75 字符
text/00017.html 参考文献 纯文献条目列表,无论述正文

待关联术语

术语名 出现章节 一句话语境

引用文献

标题 类型 出现章节 一句话语境

资金安全问题案例

问题标题 问题卡 解决方案卡(如有) 出现章节 一句话说明

实践卡进度

序号 实践标题 实践方式 状态 关联章节 产出
1 手写百行倒排索引 最小实验 done 第6章 ideas/idea-001-手写百行倒排索引.md
2 给日常脚本做一次性能剖析 真实任务 done 第4章 ideas/idea-002-给日常脚本做一次性能剖析.md
3 用歧义清单审查问答场景 证据验证 done 第8章 ideas/idea-003-用歧义清单审查问答场景.md

实践候选筛选:done

未采用候选与原因:第7章的推荐排序离线评测(需要真实用户行为日志与曝光数据,手头无可用且可核验的数据集)、第3章的 BP 网络复现(书中给出 C 代码片段但未给完整可编译工程,复现成本高于最小实验)、第6章的分布式索引构建(需要多节点环境,单机无法验证扩展性结论)。

相关主题

从本书的主题进入跨书阅读,对照其他书籍的讲解。下方数量包含主题关联的全部卡片与书籍。

暂无公开主题。