来源书籍
文本上的算法——深入浅出自然语言处理
章节与卡片
00
2 张卡片
- 全书的两篇与依赖顺序 理解等级:初级 结构图卡
- 口语化写作的取舍 理解等级:中级 普通读书笔记卡
01 第1章 你必须知道的一些基础知识
7 张卡片
- 熵是不确定性的度量 理解等级:初级 普通读书笔记卡
- KL散度不是真正的距离 理解等级:中级 普通读书笔记卡
- 交叉熵是编码代价的绝对值 理解等级:中级 普通读书笔记卡
- 词的互信息靠共现统计 理解等级:中级 普通读书笔记卡
- 贝叶斯法则拆开三个部件 理解等级:中级 普通读书笔记卡
- 分词歧义写成概率最大化 理解等级:高级 问题卡
- 数据稀疏逼出平滑 理解等级:高级 普通读书笔记卡
02 第2章 我们生活在一个寻求最优解的世界里
7 张卡片
- 损失函数量的是误差 理解等级:中级 普通读书笔记卡
- 用经验风险逼近期望风险 理解等级:高级 普通读书笔记卡
- 正则化给复杂度定价 理解等级:高级 普通读书笔记卡
- 偏差与方差的分工 理解等级:中级 普通读书笔记卡
- 最大似然估计的三步 理解等级:中级 普通读书笔记卡
- 最大后验只取后验的峰 理解等级:高级 普通读书笔记卡
- 梯度下降与它的随机版本 理解等级:中级 普通读书笔记卡
04 第4章 如何计算得更快
7 张卡片
- 存储器分层与局部性 理解等级:中级 普通读书笔记卡
- 优化分三级,系统级最大 理解等级:中级 普通读书笔记卡
- 空间换时间:先算好再读 理解等级:中级 普通读书笔记卡
- 磁盘慢在寻道与旋转 理解等级:中级 普通读书笔记卡
- 分布式=用多机分治 理解等级:初级 普通读书笔记卡
- 同键聚合让计算可扩展 理解等级:高级 结构图卡
- HDFS 用中心节点管块 理解等级:中级 普通读书笔记卡
05 第5章 你要知道的一些术语
6 张卡片
- tf 是局部,idf 是全局 理解等级:中级 普通读书笔记卡
- 三类特征选择度量 理解等级:中级 普通读书笔记卡
- PageRank 把链接当投票 理解等级:中级 普通读书笔记卡
- 相似度:距离与哈希 理解等级:中级 普通读书笔记卡
- 文本相似度先变成定长向量 理解等级:中级 普通读书笔记卡
- 相似度模型逐层加特征 理解等级:高级 结构图卡
06 第6章 搜索引擎是什么玩意儿
12 张卡片
- 索引把线上计算搬到线下 理解等级:高级 普通读书笔记卡
- 点击调权会自我强化 理解等级:高级 普通读书笔记卡
- 检索是逐层收窄的漏斗 理解等级:高级 结构图卡
- 爬虫就是遍历网页图 理解等级:初级 普通读书笔记卡
- Query里的tf恒为1 理解等级:中级 普通读书笔记卡
- term紧密度决定能否拆开 理解等级:中级 普通读书笔记卡
- 变换必须整句替换 理解等级:高级 普通读书笔记卡
- 归并:大数组还是优先队列 理解等级:高级 普通读书笔记卡
- 用得分上界跳过文档 理解等级:高级 普通读书笔记卡
- 词的and/or改变了剪枝 理解等级:高级 普通读书笔记卡
- 绕开损失定义梯度 理解等级:高级 普通读书笔记卡
- 索引拆成四个库 理解等级:中级 普通读书笔记卡
07 第7章 如何让机器猜得更准
6 张卡片
- 协同过滤借相似者的评分 理解等级:中级 普通读书笔记卡
- 物品相似度适合离线算 理解等级:高级 普通读书笔记卡
- 稀疏与冷启动是硬伤 理解等级:中级 普通读书笔记卡
- 把用户兴趣当作查询 理解等级:中级 普通读书笔记卡
- 推荐的三段式框架 理解等级:高级 结构图卡
- 伪个性化:标签代表不了兴趣 理解等级:高级 普通读书笔记卡
08 第8章 理解语言有多难
10 张卡片
- 理想流程与真实管线 理解等级:中级 结构图卡
- 专名识别就是找词边界 理解等级:中级 普通读书笔记卡
- 依存句法的两种解法 理解等级:高级 普通读书笔记卡
- 句法分析为何难落地 理解等级:高级 普通读书笔记卡
- 语义分析写成逻辑式 理解等级:中级 普通读书笔记卡
- 知识图谱的两条抽取路线 理解等级:中级 普通读书笔记卡
- 任务型对话的状态推进 理解等级:高级 结构图卡
- 闲聊系统与评价的困境 理解等级:中级 普通读书笔记卡
- 组合爆炸让语义难以量化 理解等级:高级 普通读书笔记卡
- 歧义是NLP真正的难点 理解等级:中级 普通读书笔记卡
09 结语
1 张卡片
- 个性化越深隐私越少 理解等级:中级 普通读书笔记卡
03a
10 张卡片
- 机器学习的三要素 理解等级:初级 普通读书笔记卡
- 欠拟合与过拟合 理解等级:中级 普通读书笔记卡
- 特征工程的四个动作 理解等级:中级 普通读书笔记卡
- 判别式与生成式模型 理解等级:高级 普通读书笔记卡
- 逻辑回归为何弃用平方损失 理解等级:中级 普通读书笔记卡
- 因子分解机用隐向量解稀疏 理解等级:中级 普通读书笔记卡
- 最大熵:未知处不做假设 理解等级:中级 普通读书笔记卡
- 词袋假设与主题模型 理解等级:初级 普通读书笔记卡
- 隐变量模型的近似求解 理解等级:高级 普通读书笔记卡
- 从感知器到BP网络 理解等级:中级 结构图卡
03b
13 张卡片
- 反向传播:误差从后往前算 理解等级:中级 普通读书笔记卡
- 深层网络的三个训练障碍 理解等级:高级 普通读书笔记卡
- 词袋为什么算不出近义 理解等级:初级 普通读书笔记卡
- 词向量是语言模型的副产品 理解等级:中级 普通读书笔记卡
- CBOW 与 skip-gram 互为反任务 理解等级:中级 普通读书笔记卡
- 交叉熵为何等价对数似然 理解等级:中级 普通读书笔记卡
- RNN 的梯度爆炸与消失 理解等级:中级 普通读书笔记卡
- LSTM 用门控筛选记忆 理解等级:中级 普通读书笔记卡
- Attention 突破定长向量瓶颈 理解等级:高级 普通读书笔记卡
- CNN 靠卷积和池化省参数 理解等级:中级 普通读书笔记卡
- 防过拟合的八条实操 理解等级:中级 操作参考卡
- GBDT 用负梯度拟合残差树 理解等级:高级 普通读书笔记卡
- 文本分类:特征选择还是表示学习 理解等级:中级 普通读书笔记卡
全书概览
文本上的算法——深入浅出自然语言处理
评级:经典原理(信息浓度高 × 稳定性中高)
评级理由:全书的重心是”这个算法为什么这么设计、它在什么条件下成立”,而不是某套工具的调用方式。概率与信息论的基本量、最优化与梯度下降、机器学习的三要素(样本/特征/模型)、倒排索引与向量空间模型、TF-IDF 的权重结构、排序学习的评估口径——这些推理不随框架版本变化。稳定性的折扣来自应用篇:第4章对 Hadoop 与 SSD 的讨论、第8章对深度学习当时进展的描述,都带有明显的时代印记,具体工具与模型榜单会过时。作者刻意采用口语化讲解与比喻,抛弃繁琐证明而直取算法核心,真正的技术结论集中在每节的后半段,因此阅读时应把故事当作引子、把结论当作知识。
执行模式:light
建档进度:done
全文阅读:spine 18 项;实质正文 10 项(前言、第1–8章、结语;第3章因 EPUB 拆成两个文件,按上/下两段处理,合计约 111,833 个非空白字符),按 Go nodeText + Fields 归一化口径逐项完整读取;非正文 7 项逐项排除(见下表)。
整书笔记:_book_note.md
覆盖记录:_coverage.md
工作流交接:_workflow.md
章节进度追踪表
| 章节号 | 章节标题 | 状态 | 卡片数 |
|---|---|---|---|
| 00 | 前言 | done | 2 |
| 01 | 第1章 你必须知道的一些基础知识 | done | 7 |
| 02 | 第2章 我们生活在一个寻求最优解的世界里 | done | 7 |
| 03 | 第3章 让机器可以像人一样学习 | done | 23 |
| 04 | 第4章 如何计算得更快 | done | 7 |
| 05 | 第5章 你要知道的一些术语 | done | 6 |
| 06 | 第6章 搜索引擎是什么玩意儿 | done | 12 |
| 07 | 第7章 如何让机器猜得更准 | done | 6 |
| 08 | 第8章 理解语言有多难 | done | 10 |
| 09 | 结语 | done | 1 |
非正文排除
| spine项 | 类型 | 排除理由 |
|---|---|---|
titlepage.xhtml |
封面 | 仅封面图,无文字 |
text/00001.xhtml |
封面页 | 仅 5 个字符,无内容 |
text/00002.xhtml |
版权信息 | 书名、出版方、ISBN 等出版信息 |
text/00003.html |
内容提要 | 图书宣传文案 |
text/00005.html |
篇章页 | 「理论篇」分隔页,仅 62 字符 |
text/00010.html |
篇章页 | 「应用篇」分隔页,仅 75 字符 |
text/00017.html |
参考文献 | 纯文献条目列表,无论述正文 |
待关联术语
| 术语名 | 出现章节 | 一句话语境 |
|---|
引用文献
| 标题 | 类型 | 出现章节 | 一句话语境 |
|---|
资金安全问题案例
| 问题标题 | 问题卡 | 解决方案卡(如有) | 出现章节 | 一句话说明 |
|---|
实践卡进度
| 序号 | 实践标题 | 实践方式 | 状态 | 关联章节 | 产出 |
|---|---|---|---|---|---|
| 1 | 手写百行倒排索引 | 最小实验 | done | 第6章 | ideas/idea-001-手写百行倒排索引.md |
| 2 | 给日常脚本做一次性能剖析 | 真实任务 | done | 第4章 | ideas/idea-002-给日常脚本做一次性能剖析.md |
| 3 | 用歧义清单审查问答场景 | 证据验证 | done | 第8章 | ideas/idea-003-用歧义清单审查问答场景.md |
实践候选筛选:done
未采用候选与原因:第7章的推荐排序离线评测(需要真实用户行为日志与曝光数据,手头无可用且可核验的数据集)、第3章的 BP 网络复现(书中给出 C 代码片段但未给完整可编译工程,复现成本高于最小实验)、第6章的分布式索引构建(需要多节点环境,单机无法验证扩展性结论)。
相关主题
从本书的主题进入跨书阅读,对照其他书籍的讲解。下方数量包含主题关联的全部卡片与书籍。
暂无公开主题。