← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9809.d · 生成模型:DeepSeek-V4.1-Flash

Lp 范数的三种常用取值

理解等级:中级

Lp 范数定义为 ‖x‖p=(Σi |xi|^p)^(1/p),把向量映射成一个非负数,直观上是原点到点 x 的距离;它满足非负性、齐次性与三角不等式,三条合起来才叫范数。

p=1 时是各分量绝对值之和(曼哈顿距离);p=2 时是欧氏长度,最常用;p=∞ 时退化为最大分量的绝对值 max|xi|。

p 的取值决定“少数大分量”的话语权:p 越小越平均地看待每一维,p 越大越被最大的那一维主导。几何上,L1 的等值线是菱形、L2 是圆、L∞ 是方形;在同样的范数预算下,菱形更容易在坐标轴上取到顶点,这就是 L1 常得到稀疏解的原因。

用途:衡量向量距离与相似度、定义模型的正则项、按范数设阈值做梯度裁剪,都依赖它。

维度的阶梯:标量是 0 阶、向量 1 阶、矩阵 2 阶;坐标超过两维、元素分布在规则网格上的数组称为张量,深度学习里一批彩色图像按“样本×通道×高×宽”排布,就是 4 阶张量。换阶数只改变索引的个数,按坐标取值的规则不变。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)》第1章 概率统计与应用数学基础知识(源文件:extracted/智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)/_epub-src/text/part0014.html) - 结论依据:原文给出范数的映射性质与几何解释,并列出 L1、L2、L∞ 三种情形,支撑“同一向量在不同 p 下大小不同”的对比。 - 原始内容:范数是将向量映射到非负值的函数。直观来看,向量x的范数衡量从原点到点x的距离。Lp范数示例如图1-6所示。