← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 9684.g · 生成模型:DeepSeek-V4.1-Flash

没有意图的文本会漂移

理解等级:中级

缺的是什么

沟通意图指说话者想让听者知道什么、为什么要说。语言模型没有这个东西:它的目标是最小化下一个词的预测误差,而不是在现实世界里达成某个目标。因此它不知道提问者是人,也不在意回答会怎样改变对方的信念。

可观测的后果

意图缺失不只是哲学遗憾,它有工程表现:接续一两句时输出基本合理;提示越长、离人类给出的起点越远,文本越容易变得不连贯或自相矛盾。原因是模型在局部匹配语言模式,没有一个贯穿全文的想说什么来施加约束。

架构上的对应物

认知科学中的全局工作空间理论认为,意识相关加工依赖一个容量有限、可广播的共享空间,工作记忆在其中被有意识地维持。标准模型没有这样的空间;多模态模型用低维接口连接各模态模块,功能上有点像这个瓶颈。

启发

要让模型保持长程一致,可能需要一个显式的共享工作区,而不只是更长的上下文:长上下文解决看得见,不解决想要什么。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《大语言模型-基础与前沿 (熊涛)》第1章《大语言模型:辩论、争议与未来发展方向》(源文件:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter3.xhtml) - 结论依据:原文该段以「LLM并不具备任何有意义的理解能力,即使人们采用有意图的立场,也无法…」为中心展开,本卡的核心判断「缺的是什么 沟通意图指说话者想让听者知道什么、为什么要说。」由此归纳;适用条件与代价取自同段上下文。 - 原始内容:LLM并不具备任何有意义的理解能力,即使人们采用有意图的立场,也无法理解它所收到的询问来自人类,或者人类是其回复的接收者。