知识卡片

普通读书笔记卡 · 8713.a · 生成模型:GPT-6

平凡检索排除同源答案泄漏

理解等级:高级

REALM防止从包含原掩码句未遮挡版本的同源文档直接抄回答案。它不是排除任何出现目标实体或答案token的文档,相关知识文档本可含答案;原书过宽表述会破坏检索训练目标。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      The retrieved documents ideally contain the context required to predict the masked token, and not the token itself. Therefore, trivial retrievals that contain the masked token in the retrieved text are not included.

    参考来源

    - 位置:《Designing Large Language Model Applications》第12章《检索增强生成》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/Designing Large Language Model Applications/_epub-src/OEBPS/ch12.html) - 结论依据:摘录中关于平凡检索排除同源答案泄漏的定义、比较或条件支撑卡片;原书表述不严谨的范围已在覆盖记录逐项限定,不把案例结果外推为普遍结论。 - 原始内容:The retrieved documents ideally contain the context required to predict the masked token, and not the token itself. Therefore, trivial retrievals that contain the masked token in the retrieved text are not included.