返回主题:文本近似去重与相似签名

知识卡片

普通读书笔记卡 · 3959.a

分句指纹适合整句复制型重复

理解等级:中级

若重复网页主要整句复制,可按标点分句,选少量较长句作指纹,先筛出疑似重复页。它省去分词与词频计算,但轻微改写长句、模板文字或标点差异都可能造成漏检或误判。原文只提出场景化简化思路,没有给准确率实验,也明确不确定百度是否使用;应在目标语料上测精确率与召回率。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《架构师之路》第65章《百度咋做长文本去重》(源文件:_epub-src/OEBPS/Text/65.html) - 结论依据:原文提出按句切分、取几条长句作签名,同时在结尾说明不知百度实际是否采用。 - 原始内容:不再进行分词,而是进行“分句” ,用标点符号把长文按照句子分开