← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9677 · 生成模型:DeepSeek-V4.1-Flash

合适度量的三条硬杠

理解等级:中级

对任意点 x、y、z,距离函数 d 要过三关:

  1. 非负与同一性:d(x,y)≥0,且 d(x,y)=0 当且仅当 x=y。非负容易,难的是只有自己跟自己才是 0——很多散度在这一关就挂了。
  2. 对称性:d(x,y)=d(y,x)。
  3. 三角不等式:d(x,z)≤d(x,y)+d(y,z),绕路不会更短。

三角不等式为什么是筛子:前两条几乎所有损失都能过,第三条才是分水岭。它的几何含义是两点之间直线最短,等价于说这个空间里的球是凸的、收敛序列的极限唯一、最近邻与聚类的直觉成立。丢掉它,数值照样能下降,但你没法再说这两个样本很近。

检验方法:不用证明,代三个数就行。取 1、2、3,分别算直达与绕路,反例立刻现形。这也是本章审 MSE 与交叉熵的统一手法。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第27章 合适的模型度量 · 查看原书依据

      设想一下,如果图27-2中所展示的三角不等式不成立会发生什么。如果边A和边B的长度之和比边C短,则边A与边B不会相交形成三角形;相反,它们会彼此达不到。

    参考来源

    - 位置:《大模型技术30讲》第27讲 合适的模型度量(源文件:extracted/大模型技术30讲/_epub-src/EPUB/xhtml/chapter01_0035.xhtml) - 结论依据:第27章 27.1 节:合适度量的三条标准与三角不等式的几何解释 - 原始内容:设想一下,如果图27-2中所展示的三角不等式不成立会发生什么。如果边A和边B的长度之和比边C短,则边A与边B不会相交形成三角形;相反,它们会彼此达不到。