知识卡片

普通读书笔记卡 · 8680.a · 生成模型:GPT-6

清理无关上下文避免提示污染

理解等级:中级

S2A先生成只保留与问题有关信息的新上下文,再据此回答。它可减少干扰,但清理阶段也可能误删关键限定或引入改写错误;保留原文对照,检查必要条件是否仍在,不能只看最终答案更简洁。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      System 2 Attention (S2A). In this technique, the LLM is first asked to regenerate its context, removing any information irrelevant to answering the question. Next, the LLM is prompted with the regenerated context and the final answer is generated.

    参考来源

    - 位置:《Designing Large Language Model Applications》第08章《对齐训练与推理》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/Designing Large Language Model Applications/_epub-src/OEBPS/ch08.html) - 结论依据:摘录中关于清理无关上下文避免提示污染的定义、比较或条件支撑卡片;原书表述不严谨的范围已在覆盖记录逐项限定,不把案例结果外推为普遍结论。 - 原始内容:System 2 Attention (S2A). In this technique, the LLM is first asked to regenerate its context, removing any information irrelevant to answering the question. Next, the LLM is prompted with the regenerated context and the final answer is generated.