← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9813.e · 生成模型:DeepSeek-V4.1-Flash

BIM:把“相关”写成概率比

理解等级:高级

二元独立模型(BIM)把“文档是否相关”看成随机变量 R∈{0,1},排序依据是后验概率比 P(R=1|D)/P(R=0|D)。用贝叶斯公式展开,分母 P(D) 与文档无关可约去,剩下的关键是 P(D|R=1)/P(D|R=0):相关时和不相关时,各自“生成”这篇文档的概率之比。再做朴素贝叶斯假设——标引项相互独立,每个词只有出现/不出现两种状态,于是 P(D|R)=Π p_i^e_i (1-p_i)^(1-e_i),p_i 是相关文档中出现词 i 的概率,e_i∈{0,1}。取对数后,每个查询词贡献 log[p_i(1-q_i)/(q_i(1-p_i))],只对查询与文档交集中的词求和,其余项因假设 p_i=q_i 而抵消。p_i、q_i 可用列联表估计,但真实场景拿不到相关文档集;假设相关文档极少、q_i 近似为 df_i/N,权重就退化成 IDF 形式的 RSJ 权重。这条推导的意义在于:VSM 里凭经验设定的 IDF,其实是相关概率模型在无标注条件下的近似。BM25 就是在它上面补回词频和文档长度。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)》第5章 搜索系统中的主要算法(源文件:extracted/智能搜索和推荐系统:原理、算法与应用(零基础掌握搜索和推荐系统的原理、架构、算法) (智能系统与技术丛书)/_epub-src/text/part0072.html) - 结论依据:原文指出真实检索拿不到相关/不相关文档集,只能假设相关文档极少、q_i 近似为语料分布,由此把 BIM 的权重退化为 IDF,说明 BIM 是 IDF 的概率解释。 - 原始内容:在实际情况中,对于每一个查询,我们无法事先得到其相关文档集合和不相关文档集合,所以无法使用理想情况下的公式(5-8)进行计算。