知识卡片
理解之争的四层立场
争论不是两派
关于语言模型是否理解语言,立场可以排成一条从最否定到最宽松的谱系:
| 立场 | 主张 |
|---|---|
| 还原主义 | 模型只是矩阵乘法与数值计算,谈不上理解、思考和意义 |
| 无理解能力 | 规模再大也能产出与认知功能相当的结果,但无需理解手头任务 |
| 认真对待涌现 | 把模型行为本身当研究对象,可以长出人工智能心理学 |
| 朴素拟人主义 | 它会像人一样用语言,所以具备类人品质 |
这张坐标的用处
它把模型有没有理解从是非题变成定位题:先问对方站在哪一层,再问该层要求什么证据。上面两层要行为证据,下面两层要机制证据,争论经常因为双方在不同层取证而擦肩而过。
分歧的量级
2022 年对自然语言处理研究者的调查中,对只要数据和算力足够、纯文本生成模型能否在非琐碎意义上理解自然语言这一说法,480 名受访者里 51% 同意、49% 反对。几乎对半的分裂说明:缺的不是更多实验,而是统一的判据。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第1章 大语言模型:辩论、争议与未来发展方向 · 查看原书依据
LLM的流行和影响力的飙升并非没有受到怀疑和批评。一些哲学家、认知科学家、语言学家、人工智能从业者就LLM是否有可能实现语言理解展开了激烈的辩论。2022年对自然语言处理界活跃的研究人员进行的一项调查显示,这场辩论存在明显分歧。
参考来源
- 位置:《大语言模型-基础与前沿 (熊涛)》第1章《大语言模型:辩论、争议与未来发展方向》(源文件:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter3.xhtml)
- 结论依据:原文该段以「LLM的流行和影响力的飙升并非没有受到怀疑和批评。一些哲学家、认知科…」为中心展开,本卡的核心判断「争论不是两派 关于语言模型是否理解语言,立场可以排成一条从最否定到最宽松的谱系:」由此归纳;适用条件与代价取自同段上下文。
- 原始内容:LLM的流行和影响力的飙升并非没有受到怀疑和批评。一些哲学家、认知科学家、语言学家、人工智能从业者就LLM是否有可能实现语言理解展开了激烈的辩论。2022年对自然语言处理界活跃的研究人员进行的一项调查显示,这场辩论存在明显分歧。