C · 与机器对照

大脑 vs 人工神经网络

上一课我们看到，大脑用很少的样本就把概念安顿进了一个几何空间。深度神经网络也学到了惊人相似的表征——可它们要吃下海量数据、烧掉大量算力才学得会。两边「看起来」越来越像，但学习的引擎是同一台吗？这一课的答案是：不是；而追问「差在哪」，恰好照亮了两边各自的秘密。

上一课把我们逼到这里

第 06 课说，大脑把概念表征成高维空间里的点，相似＝距离近；而深度网络学到的 embeddings 也是同一种几何。表征如此相像，一个自然的猜测是：连学习的方式也该差不多吧？毕竟两边都叫「神经网络」。这一课就把这个猜测摆上台面正面检验——结论是名字像、机制差得远，而最大的分歧就藏在那台驱动了整个深度学习的引擎里：反向传播。

本课路线

(1) 先讲清反向传播 (backpropagation) 是什么、为什么它强；(2) 指出它在生物上几乎不可行的两个硬伤——权重对称与全局误差信号；(3) 看大脑用什么替代——局部学习规则（赫布类、三因子规则），以及预测编码可以局部地近似 backprop（Whittington & Bogacz）；(4) 摆出三处「大脑赢」的差异：样本效率、能耗、灾难性遗忘；(5) 看一处漂亮的对应——卷积网层级 ↔ 腹侧视觉流层级（Yamins & DiCarlo），并反复提醒这是类比而非等同；(6) 动手玩「两种学习规则」，亲眼比较全局 backprop 与局部规则的收敛与可行性。

反向传播：深度学习的引擎

一个深度网络就是一长串叠起来的简单运算，每层都带一堆可调的权重 (weights)。训练的目标是让网络的输出尽量贴近正确答案，也就是把一个损失 (loss) 降到最小。问题是：网络里可能有上亿个权重，每一个该往哪个方向、调多少，才能让损失下降？

反向传播给出的答案是微积分的链式法则：先做一次正向传播算出输出和损失，再从输出端把误差反向一层层传回去，精确算出损失对每一个权重的梯度 (gradient)——也就是「这个权重动一点点，损失会变多少」。拿到梯度，就沿着让损失下降的方向更新权重：

权重 ← 权重 − 学习率 × ∂损失 / ∂权重

这套办法之所以是引擎，是因为它高效又精确：一次反向传播就同时给出所有权重的梯度，于是再深的网络也能被一致地训练。本站的 GPT 与生成模型课里，每一个模型骨子里都靠它学。说深度学习的近十年成就建立在反向传播之上，并不夸张。

可它在生物上几乎不可行

既然这么强，大脑是不是也在偷偷做反向传播？长期的共识是：不太可能。反向传播对硬件提了两个要求，而真实神经元满足不了。

① 权重对称问题 (weight transport)反向传播在回传误差时，必须复用正向那一模一样的权重——同一组数值，正向算输出要用它，反向算梯度也要用它。可一个生物突触是单向的：信号只从前一个神经元流向后一个。后面那层凭什么知道、还精确地用上前面那条连接的权重？神经元之间没有这样一条「把权重抄送回去」的通道。

② 全局误差信号问题反向传播要求一个在输出端算出的误差，被精确地、按链式法则逐层分配回每一个权重。这等于要有一套和正向网络精确镜像的第二套回传通路，把一个全局的、带正负与精确大小的误差送到每一个突触。真实神经元只看得到自己周围邻居的活动，没有谁给它递来这样一个全局精算过的误差。

一句话：反向传播要大脑做两件神经元做不到的事——反向复用正向权重，以及精确回传一个全局误差信号。所以即便人工网络靠它学得很好，它也不太可能是大脑真正用的学习算法。

为什么这是个老问题

这个「神经网络很好用、但 backprop 不像大脑在做的事」的张力，从上世纪八九十年代联结主义兴起时就被反复讨论（Crick 1989 等人明确点过权重对称这道坎）。它不是细枝末节，而是把「人工神经网络」和「生物神经网络」这两个同名事物分开的核心裂缝。后来一大批研究就是在问：有没有别的、更生物可行的办法，能逼近 backprop 的效果？

大脑用的是局部学习规则

大脑能拿到的，基本只有局部信息：一个突触前后两个神经元此刻活跃不活跃，以及一些弥散的调质信号（比如多巴胺）。所以大脑的学习规则也是局部的——只用突触自己够得着的量来决定怎么改。

最经典的是赫布学习 (Hebbian learning)，常被概括成「一起放电的神经元，连在一起」：

Δ权重 ∝ 突触前活动 × 突触后活动

它只用突触两端的活动，全是局部量，没有谁需要从输出端把全局误差抄送回来。但纯赫布规则太朴素，学不了复杂的有监督任务。于是有了三因子规则 (three-factor rule)：在前后两端活动之外，再乘上第三个全局调质因子（如奖赏/惊喜信号）：

Δ权重 ∝ 突触前活动 × 突触后活动 × 调质信号

这第三个因子可以是弥散广播的（多巴胺就是这样洒向大片脑区），不必像 backprop 那样为每一个突触精算一个专属误差——这正回扣了第 04 课的多巴胺＝奖赏预测误差。三因子规则因此生物上可行得多，代价通常是学得更慢、对难任务的精度不如 backprop。

关键转折：预测编码可以局部地近似反向传播

这里有个漂亮的结果。Whittington & Bogacz（2017）证明：第 02 课那套预测编码 (predictive coding) 网络——分层、自上而下发预测、只把预测误差往上传——在合适的设定下，其权重更新可以逼近反向传播算出的梯度。妙处在于，预测编码每一步只用局部的预测误差（每层自己的预测和实际之差），不需要权重对称、也不需要一个从输出端精算回来的全局误差。换句话说：大脑也许并没在做 backprop，但它用一套生物上可行的局部机制，近似出了 backprop 想要的那种梯度。这是「大脑↔机器」在算法层最有力的一处接缝。

三处大脑明显胜出的差异

就算两边都能学，学习的性价比差得很远。三个差异最刺眼：

样本效率小孩看几张图就认得一种新动物；大型视觉网络往往要上百万张标注图才学到可比的识别。大脑像是带着极强的先验和结构在学（呼应贝叶斯引擎），数据需求小得多。

能耗人脑总功率约 20 瓦——大致一只暗灯泡。训练一个大模型动辄消耗以兆瓦时计的电。论「每焦耳学到多少」，生物大脑远远领先。

灾难性遗忘 (catastrophic forgetting)标准网络学了新任务，常把旧任务的权重覆盖掉、旧本领大幅退化；大脑能持续学新东西而不轻易抹掉旧的（虽然也会遗忘，但远没那么灾难性）。如何让机器也做到，至今是开放难题。

这些差异提醒我们：人工网络在特定基准上达到甚至超过人类，并不等于它的学习机制和大脑一样。它常常是用海量数据和算力，蛮力逼近了大脑用更省的办法达到的结果。

一处真实的对应：卷积网 ↔ 腹侧视觉流

说了这么多差异，也有一处对应漂亮到值得专门讲。视觉皮层处理「这是什么物体」走的是一条腹侧视觉流 (ventral stream)：从初级视皮层 V1（对边缘、朝向敏感）一路到下颞叶 IT（对完整物体、类别敏感），是一条由简到繁的层级。而卷积神经网络 (CNN) 的层级也是由简到繁：浅层抓边缘纹理，深层抓物体部件与类别。

Yamins & DiCarlo 等人（2014 年前后）发现：把一个在物体识别上训练好的深度 CNN 拿来，用它中间层的激活去预测猴子视觉皮层真实神经元的反应，预测得相当准——而且网络越深的层，越能预测视觉流越靠后的脑区。当时，这类深度网络是预测高级视觉皮层反应最好的模型。这是一个强结果：训练目标定为「识别物体」，竟顺带逼出了和大脑层级相似的表征。

务必当心：这是「对应/类比」，不是「大脑就是 CNN」

把这个结果读成「大脑就是一个卷积网」会错得离谱，原因正是本课前半讲的一切：(1) CNN 靠 backprop 训练，而它在生物上几乎不可行——大脑达到相似表征用的是另一套（局部/预测编码类）机制；(2) 这种「能预测神经反应」是表征层面的相似，不是说大脑的回路、时序、学习信号和 CNN 一一对应；(3) 真实视觉流有大量反馈/循环连接、动态时序，前馈 CNN 并不具备。正确的说法是：在「学会识别物体」这个约束下，两种很不同的系统收敛到了相似的层级表征——这告诉我们任务约束很强，而不是说两者实现相同。本课通篇请把「像」读成「在某个层面上对应」，而非「等同」。

归属与边界

预测编码可局部近似反向传播：Whittington & Bogacz（2017）。深度 CNN 预测腹侧视觉流反应：Yamins & DiCarlo 及合作者（约 2014）。反向传播生物不可行性的两道坎（权重对称、全局误差信号）是联结主义以来的长期共识（Crick 1989 等）。三因子规则、人脑约 20 瓦、灾难性遗忘均为该领域常见结论；具体网络的样本量随任务而异，本课不给精确数字。所有「脑↔网络」的相似一律按类比/对应对待。

ML 镜像

这一课的镜像，是把站内 ML 课的两块拼图翻过来看它们的生物对照面：

反向传播本站 GPT 与生成模型里每个模型的学习引擎；它强大、却几乎肯定不是大脑用的算法。大脑用局部规则，预测编码再把它近似回来。

卷积网与层级表征CNN 的「浅层边缘→深层物体」层级，对应腹侧视觉流 V1→IT。两种系统在「识别物体」这一约束下收敛到相似几何——但实现机制不同。

奖赏调质 = 第三因子三因子规则里那个全局调质信号，正是第 04 课的多巴胺＝奖赏预测误差；它让局部规则也能被全局目标牵引，而不必精算每个突触的误差。

动手：两种学习规则

下面这个部件拿同一个小网络（几个节点），用两种方式训练它去拟合一个目标：左边是全局反向传播，右边是只用局部信号的局部规则。看两条误差曲线怎么下降，并读两种模式各自标注的可行性。你会得到本课的判定：backprop 通常收敛更快更低，但它要求大脑做不到的两件事；局部规则更慢，却是生物可行的那一边。

玩完你会看到那条核心张力：反向传播下降得又快又稳，可它的代价是要求权重对称＋全局误差回传——大脑做不到；局部规则只用够得着的信号，慢一些，却是真实神经元能跑的那一套。这就是为什么「人工网络学得好」不能直接读成「大脑就这么学」。

常见误解

误解：人工神经网络和大脑都叫「神经网络」，所以学习机制差不多。（澄清：名字同源，机制分叉。人工网络几乎都靠反向传播，而它要求权重对称与全局误差回传，生物上几乎不可行；大脑用局部规则，预测编码只是把 backprop 的效果近似回来。）
误解：既然深度 CNN 能预测视觉皮层的神经反应，那大脑就是个卷积网。（澄清：这是表征层面的对应，不是实现相同。CNN 靠 backprop、是前馈的；视觉流靠局部机制、有大量反馈与时序。正确读法是「在识别物体的约束下，两种不同系统收敛到相似层级」。）
误解：网络在基准上超过人类，说明它比大脑更会学。（澄清：那常是用海量数据与算力蛮力达成。论样本效率（几例就会）、能耗（约 20 瓦）、不灾难性遗忘，大脑仍明显领先——「学得准」和「学得省、学得稳」是两回事。）
误解：预测编码能近似反向传播，等于「大脑其实在做 backprop」。（澄清：恰恰相反——它说明大脑不必做 backprop，也能用生物可行的局部机制逼近同样的梯度。Whittington & Bogacz 的结果是「殊途同归」，不是「同一条路」。）

一句话带走

反向传播是深度学习的引擎，却在生物上几乎不可行——它要求权重对称（同一组权重正反两用）和一个精确回传的全局误差信号，神经元都办不到。大脑改用局部学习规则（赫布类、三因子），而预测编码能在局部近似 backprop 的梯度（Whittington & Bogacz）。再加上样本效率、能耗（约 20 瓦）、灾难性遗忘三处巨大差异，以及卷积网↔腹侧视觉流那个漂亮但仅限类比/对应的层级相似（Yamins & DiCarlo）——结论始终是同一句：两边「像」，但类比 ≠ 等同。

下一步

感知/视觉这一侧的脑↔机器对照，我们算是看清了：表征会对应，学习的引擎却不同。可是智能里最「像人」、也最让人忍不住拟人化的，是语言。大语言模型 (LLM) 一句接一句地预测下一个词，人脑读句子时似乎也在不停预测——那么 LLM 和人脑的语言/认知，究竟是不是一回事？→ 第 08 课《语言、LLM 与认知》会把这层对照摆上台面，并诚实标出拟人化的陷阱。