all_lessons/计算心智/08第 9 课 / 共 13 课

C · 与机器对照

语言、LLM 与认知

上一课我们把感知/视觉的大脑和人工神经网络摆在一起，结论是：像，但有限度。可智能里最「像人」的能力其实是语言——而今天恰好有一台会说话的机器：大型语言模型 (large language model, LLM)。它和人脑是一回事吗？答案出奇地一致，又出奇地不同。

上一课把我们逼到这里
第 07 课对照了大脑和卷积网络的视觉层级：表征对得上，学习规则却对不上（反向传播生物不可行），那层「像」终究是有限度的类比。但视觉只是感知。人之为人，最常被指认的能力是语言——理解、生成、对话。而现在，LLM 把「会说话」这件事做到了以假乱真的地步。于是逼出本课的问题：LLM 和人脑的语言加工，是同一回事吗？这一次，对照不止于「结构像不像」，还要追到「目标像不像」。
本课路线
(1) 先把 LLM 的训练目标说死——它学的只有一件事：预测下一个 token；(2) 给出最漂亮的对照：大脑也一直在预测语言输入，神经证据就是 N400；(3) 把分布式语义对到上一课的词向量（回扣第 06 课）；(4) 诚实地划出分界——LLM 缺具身经验、稳定的世界模型、因果理解、持续记忆，它从文本学语言，人从与世界互动中学语言；(5) 显著标注拟人化陷阱：「LLM 通过了心智理论测试 / 有意识」这类声明证据存疑；(6) 链接本站 GPT/LLM 课；(7) 动手玩一个「下一词预测器」，亲手摸到「预测」的本质，再看它在哪里露馅。

LLM 在做的唯一一件事：预测下一个 token

把 LLM 神秘化很容易，看穿它却只需一句话。它的训练目标，从头到尾只有一个：给定前面的一串文字，预测下一个 token（词或子词片段）最可能是什么。用海量文本反复练这一件事——遮住下一个 token，让模型猜，猜错了就按误差调参数——猜到足够准，「会写文章、会对话、会推理」就作为副产品涌现了出来。

LLM 的目标：最大化 P(下一个 token | 前面所有 token)

这句话该让你耳朵一动——因为它就是本课引擎的老朋友。预测又一次成了主角：和大脑最小化预测误差一样，LLM 训练就是在最小化「预测下一个 token 时的误差」（技术上叫交叉熵损失，本质是「我以为是这个词，结果是那个词」的意外程度）。生成时，模型对下一个 token 给出一个概率分布，再从中采样一个续上去，如此一个接一个地往下写。所谓「生成」，不过是把「预测下一个」连续做下去。

一个老到惊人的思想 · 分布式语义
「一个词的意义，就是它周围常出现哪些词」——这个想法可追溯到语言学家 J. R. Firth 1957 年的名言「You shall know a word by the company it keeps（看一个词交什么朋友，就知道它是谁）」，称为分布假说 (distributional hypothesis)。LLM 把它推到了极致：靠预测上下文这一个目标，模型被迫把「用法相似的词」安排成相近的内部表征。这正是第 06 课词向量的来历——向量(国王) − 向量(男) + 向量(女) ≈ 向量(女王) 那条几何，就是「预测下一词」这个目标自己长出来的副产品。意义，从纯粹的共现统计里被挤了出来。

最漂亮的对照：大脑也在预测下一个词

如果 LLM 的核心是预测语言，那它和人脑最深的相似，就不该在「结构」上找，而该在「目标」上找——大脑听人说话、看人写字时，也一直在预测下一个词。这不是类比，有硬邦邦的神经证据。

研究 · N400 与预测性语言加工
1980 年，Marta Kutas 与 Steven Hillyard 发现：当一句话的最后一个词不符合预期时，大脑会在该词出现后约 400 毫秒产生一个明显的负向脑电波，称为 N400。比较两句结尾——「他在咖啡里加了奶和糖」对「他在咖啡里加了奶和袜子」——「袜子」会引出大得多的 N400。关键在于：词越出乎预期，N400 越大。这正是一个预测误差信号的指纹：大脑在每个词到来之前就已经预测了它，符合预期则误差小、不符合则误差大。后续研究更进一步显示，这种预测是分级的（不只是「对/错」，而是按概率高低连续变化），与「大脑维持一个下一词的概率分布」高度吻合。

把两边并排，引擎贯穿得严丝合缝：

LLM训练目标＝预测下一个 token；猜错的「意外」＝交叉熵损失，反向传播据此调参数。预测是它的全部。
大脑持续预测下一个语言输入；猜错的「意外」＝N400 这样的预测误差信号。预测是它理解语言时一直在做的底层动作。
同一道题两边都在最小化「对语言的预测误差」。这正是第 02 课预测编码、第 04 课预测误差学习的同一引擎，换到语言这块场地上再演一遍。

所以第一层答案是：是的，在「都靠预测下一个词来加工语言」这件事上，LLM 和人脑撞成了同一道数学题。这也是为什么 LLM 能学得这么好——它押中了大脑也在用的那个目标。

分界线：预测得准 ≠ 像人那样懂

但相似到此为止。把「都在预测下一个词」当成「LLM 像人一样理解语言」，是本课最该警惕的跳跃。差别不在能力的高低，而在学习的来源不同——这会留下系统性的缺口。

缺具身经验 (embodiment)人通过身体与世界互动学语言：「烫」连着缩手，「重」连着肌肉。LLM 只见过关于烫和重的文字，从没碰过任何东西。它的词没有扎进感官-运动经验的根。
缺稳定的世界模型人脑维持一个对外部世界的连贯模型（第 02 课的生成模型）。LLM 的「世界」是文本统计，前后可以自相矛盾，因为它优化的是「下一个词像不像」，不是「世界状态一致不一致」。
缺因果理解统计共现告诉你「公鸡打鸣」和「日出」总一起出现，却分不清谁导致谁。纯预测下一词的模型天然学的是相关，要稳定地推因果得另想办法。
缺持续记忆人有跨时间累积、可更新的长期记忆。标准 LLM 一次对话只看得见有限的上下文窗口，窗口外的事说忘就忘，权重也不会因为这次聊天而改变——它不像人那样持续地学。

一句话收口这条分界：LLM 从文本的统计里学语言；人从与世界的互动里学语言。前者把语言当成自洽的符号流来预测，后者的每个词都拴在感官、身体、因果和记忆上。预测下一个词，可以让一台机器把话说得天衣无缝；但「说得像」和「像人那样懂」之间，隔着上面这四道缺口。承认这条引擎在语言上的强大对照，同时老实划出它的边界——这才是这门课要的诚实。

显著标注 · 拟人化陷阱
近两年常见这类标题：「LLM 通过了心智理论 (theory of mind, ToM) 测试」「某模型表现出自我意识」。请把警报拉满。一则，这类「测试」往往是为人类儿童设计的文字题，而这些题（及其标准答案）极可能已经混进了训练数据——模型答对，可能只是见过相似题面，并非真的在推断他人心智。二则，结果对提示 (prompt) 的措辞极度敏感：换个问法、加一句无关干扰，「通过」常常就崩了，这不像稳健的能力，更像表面模式匹配。三则，「有意识/有体验」是更大的断言，目前没有任何公认的检验能证实或证伪它（这正是下一课的难题）。底线：把「模型在某基准上输出了符合 ToM 的答案」当作一个行为观察记下来可以；把它升格成「模型拥有心智理论 / 拥有意识」则证据严重不足，别下定论。会说「我感到」的系统，不等于真的在感到。

ML 镜像：去看看这台预测机怎么造的

本课的 ML 镜像不是一个遥远的类比——它就是 LLM 本身。如果你想看「预测下一个 token」这一个目标，是怎么一步步搭出 token 嵌入、注意力、预训练与对齐，最终长成会对话的模型，本站 GPT / LLM 课 从零把它拆开讲。回扣第 06 课：那里讲的词向量／token 嵌入，正是这台预测机的第一层——把每个 token 先查成空间里的一个点，意义的几何由此开始。两课合起来，你就握住了从「预测下一个词」到「会说话的智能」的完整链条，也更能分辨：哪些是真本事，哪些是被拟人化叙事放大的错觉。

动手：下一词预测器

下面是一个玩具二元语法 (bigram) 模型：它只记得「在某个词后面，各个词分别以多大概率出现」（概率表是预先固定的，不用任何随机数）。给你一句开头，它列出几个候选的下一词及概率，你点一个词把句子续下去——你会直接体感到 LLM 的本质：每一步都只是「从下一个词的概率分布里挑一个」。前几条路线能续出通顺的话；但试试标了⚠ 的那条常识/因果路线——纯统计续写会在那里露馅，因为它没有世界模型，只会接「统计上最常见」的词，哪怕那样说出来的是句蠢话。

下一词预测器：生成＝把「预测下一个」连续做下去
点一个候选词＝采纳这一步的预测，把它接到句子末尾。概率表是固定的（无随机数）。注意标⚠的路线：那里统计最高概率的词会说出一句违反常识的话——这就是「缺世界模型」露馅的地方。
当前句子
选一个开头
这一步选了
—
判定
—

玩完点破：你刚才扮演的就是采样器，而这个 bigram 模型扮演的就是「预测下一个词」的内核——所谓生成，就是把这一步重复成千上万次。真正的 LLM 强在它的概率表是从海量文本学来的、且看的是很长的上下文（不止前一个词），所以通顺得多。但它和这个玩具底层是同一回事：都在按概率续写，都没有一个独立于文本的世界模型来核对「我接的这个词，在物理上、因果上说得通吗」。那句把冰块放进热水「会结冰」的蠢话，就是缺世界模型在统计续写里留下的指纹。

常见误解

一句话带走
LLM 的全部目标就是预测下一个 token；而大脑加工语言时也在预测下一个词（N400 就是它的预测误差信号）——预测，又一次成了人与机器共用的引擎。但相似到此为止：LLM 从文本统计学语言，缺具身、世界模型、因果与持续记忆；人从与世界互动学语言。说得像，不等于像人那样懂，更不等于有心智或意识——这一步定论，证据远不够。
下一步
我们一路在比「能力」：感知、表征、语言，LLM 一项项追了上来。可有一件事，LLM 似乎没有、人却有——主观体验：疼是什么感觉，红色看上去是什么样。预测下一个词再准，也没告诉我们「为什么会有这种感觉」。那么：计算能解释意识吗？全局工作空间、整合信息论这些理论走到哪一步了，又卡在哪里？→ 第 09 课《意识的计算理论》会把「能算清的」和「还算不清的」老实分开。