all_lessons/计算心智/06第 7 课 / 共 13 课

B · 学习与决策的计算

表征:概念住在空间里

上一课我们承认:不管是习惯还是规划,大脑都得从有限经验里学到一套能泛化的内部表征。可「表征」到底长什么样?答案出奇地几何——概念不是存在某个抽屉里,而是住在一个高维空间里的点,相似就意味着距离近。

上一课把我们逼到这里
第 05 课讲完无模型与有模型两套学习并存、按可靠性仲裁,最后留下一个更底层的问题:不管哪一套,它们操作的「状态」「概念」是怎么被表征的?大脑只有一团神经元,没有数据库的字段,它凭什么能把「猫」和「狗」存成相近、把「猫」和「红色」存成相远,还能把没见过的新情形也安放到合适的位置上(泛化)?这一课回答:表征活在空间里。
本课路线
(1) 先拆穿一个诱人的错觉——「一个神经元 = 一个概念」,看它为什么几乎一定是错的;(2) 立起正确的图像:群体编码 (population coding),信息藏在一群神经元的联合活动模式里;(3) 把这些模式看成嵌入空间 (embedding space) 里的点,得出「相似=距离、关系=方向」;(4) 看大脑最漂亮的空间证据——海马位置细胞与内嗅皮层网格细胞(2014 诺奖),以及「同一套地图也用来组织抽象概念」的新观点;(5) 把它对到机器学习的 embeddings / 词向量;(6) 动手玩一个 2D 概念嵌入空间,亲手量「相似=距离」。

诱人的错觉:祖母细胞

最省事的表征假设是:脑子里有一个专门的神经元负责「祖母」,它一放电,你就想到祖母;另一个负责「猫」,再一个负责「红色」。这个想法有个昵称叫祖母细胞 (grandmother cell)——一个细胞,一个概念,一一对应。

它之所以诱人,是因为简单。可只要一算就站不住:你能认出的概念远比一辈子可能「专属」分配的神经元安排得过来还多;更要命的是,一个细胞死了你就永远忘了祖母,这显然不符合大脑的稳健(一小撮神经元损失通常不会抹掉一个概念)。真实的电生理记录也表明,单个神经元的反应是含糊的——它会对一堆相关刺激都放点电,对单一刺激并不专一。

注意:别把「概念神经元」当定论
2005 年 Quian Quiroga 等人在人类内侧颞叶记录到一些高度选择性的神经元——著名的「Jennifer Aniston 神经元」对该影星的多张照片、甚至名字都放电。这常被通俗地叫作「概念细胞」,听起来像祖母细胞复活了。但要诚实:这类细胞并非严格一对一(同一细胞也会对相关人物放电,一个概念也由许多这类细胞共同代表),证据来自少数癫痫患者的有限记录,作者本人也强调这是稀疏的群体编码而非真正的祖母细胞。结论:单细胞的高选择性是真的,但「一个神经元 = 一个概念」是被夸大的说法,不要当成大脑的表征原理。

正确的图像:群体编码

把镜头从单个细胞拉远,图像就清楚了:信息不在任何一个神经元里,而在一群神经元的联合活动模式里。这叫群体编码 (population coding)。单个神经元像一个粗糙、含糊、爱乱叫的传感器;但把成百上千个这样的传感器的读数合在一起,那个联合模式就能精确地指认一件事。

经典例子是运动方向:初级运动皮层里每个神经元都有一个「偏好方向」,但它的放电对偏离偏好方向的运动也响应(调谐曲线很宽)。光看一个神经元,你说不准猴子要往哪伸手。可把整群神经元各自的偏好方向按其放电率加权一求和——这个群体向量 (population vector)——就精确地指向了实际的运动方向(Georgopoulos)。精度从「群体」里涌现,单个成员并不需要精确。

群体向量 = Σ(每个神经元的偏好方向 × 它的放电率)

这一步是整课的枢纽。一旦表征是「一群神经元的联合活动模式」,我们就可以把每一个模式看成一个高维空间里的一个点——有多少个神经元,这个空间就有多少维。神经科学管这个由真实神经活动张成的空间叫神经流形 (neural manifold);机器学习管类似的东西叫嵌入空间 (embedding space)。它们说的是同一件事。

相似=距离,关系=方向

把概念放进空间,立刻送你两条免费的几何性质,而它们正好就是「意义」的两个核心:

相似 = 距离近「猫」和「狗」的群体活动模式高度重叠,于是它们在空间里离得近;「猫」和「红色」几乎不重叠,离得远。语义相似,被翻译成了可以用尺子量的几何距离。
类别 = 簇意义相关的概念自然聚成一团(动物一簇、颜色一簇)。识别「这是什么类」=看它落进了哪个簇——分类成了空间里的就近归属。
关系 = 方向(可平移)从「男」指向「女」的那个向量,和从「国王」指向「女王」的向量大致平行。关系被编码成方向,于是可以做向量算术:把同一个位移加到别处。

第三条最神奇,因为它意味着泛化有了几何解释。你只要学会了「性别」这个方向,就能把它平移到任何你没专门学过的词上。这回答了上一课结尾的问题:表征之所以能泛化,是因为它把世界的结构(哪些维度有意义、概念之间什么关系)编码成了空间的形状——新情形只要落在合适的位置,旧的几何就自动适用。

大脑里真有坐标系:位置细胞与网格细胞

「概念住在空间里」听起来像比喻。可在一个领域里,大脑用的真的就是一套空间坐标系——而且这套机制拿过诺贝尔奖。

原著 / 研究 · 认知地图的神经基础
1971 年,约翰·欧基夫 (John O'Keefe) 在大鼠海马里发现位置细胞 (place cells):某个细胞只在动物走到环境中某个特定地点时才剧烈放电,换一个地点就换一批细胞放电——海马里有一张「你在哪」的地图。2005 年,迈-布里特·莫泽 (May-Britt Moser) 与爱德华·莫泽 (Edvard Moser) 在内嗅皮层发现网格细胞 (grid cells):单个细胞的放电点在空间里铺成一张规整的六边形网格,像坐标纸一样为整个环境提供一套可复用的度量坐标。三人因「构成大脑定位系统的细胞」共享 2014 年诺贝尔生理学或医学奖。这正是托尔曼 (Tolman) 1948 年「认知地图 (cognitive map)」假说的神经实现。

这里的关键不是「大脑会记路」,而是机制的形状:网格细胞提供一套不依赖具体环境的、可平移可复用的坐标系,位置细胞在这套坐标上标出具体地点。这恰好就是我们上面说的嵌入空间——一个可以安放任意「点」、并用距离和方向衡量关系的度量空间。

一个诱人但还需谨慎的飞跃
近年一个引人注目的观点是:大脑组织抽象概念用的可能是同一套地图机制——把「鸟的脖子有多长 / 腿有多长」这类抽象特征当成空间的两个坐标轴,海马-内嗅系统就在这个「概念空间」里用类网格的编码导航(Constantinescu、Behrens 等的 fMRI 证据)。如果成立,它把本课的比喻变成了字面真理:认知地图不只画物理空间,也画意义空间。但要诚实——这是活跃的前沿假说,证据还在积累,别当成已盖棺定论的事实。它迷人,但仍待检验。

ML 镜像:embeddings 与词向量,是同一道几何题

大脑把概念编码成空间里的点——机器学习几乎一字不差地在做同一件事,只是它把这件事叫作 嵌入 (embedding)表征学习 (representation learning)。一个词向量 (word embedding) 就是把每个词映射成几百维空间里的一个向量,训练目标让用法相似的词落得近。于是上面那三条几何性质原封不动地出现:

对照本站:词向量与 token 嵌入见 GPT / LLM 课;把数据压进一个连续隐空间、再在其中采样生成,见 扩散与生成模型课。回扣引擎:大脑为「在不确定中表征世界」演化出群体编码与认知地图,机器学习为「从数据中学结构」发明了 embeddings——两边都把意义几何化,因为这是把「相似」「关系」「泛化」一次性解决的同一道数学题。

动手:概念住在空间里

下面是一个 2D 嵌入空间,每个点是一个词,坐标是预设的(体现语义:动物聚一簇、颜色聚一簇、皇室一簇、交通工具一簇)。点任意一个词,部件会把它当查询点,高亮它的最近邻并报出距离——你会看到「相似=距离近」不是口号,是真能量的。再点「类比:国王 − 男 + 女 ≈ ?」,看一次向量平移如何把你送到「女王」附近。

概念嵌入空间:相似=距离,关系=方向
点一个词=把它当查询点,高亮最近邻;点「类比」按钮=做一次向量算术(国王−男+女),看落点离谁最近。坐标是预设的,体现语义几何。
查询
点一个词
最近邻
判定

玩完点破:你刚才用一把尺子量出了「意义」。把「猫」当查询,最近邻是「狗」而不是「红」——语义相似被翻译成了几何距离;做一次「国王 − 男 + 女」的平移就落在「女王」边上——语义关系被翻译成了几何方向。大脑的群体编码、网格细胞的认知地图、词向量的嵌入空间,玩的都是这一个把戏:让概念住进空间,意义就成了可以计算的几何。

常见误解

一句话带走
概念不存在某个抽屉里,而是住在一个高维空间里——群体编码把一群含糊神经元的联合模式变成空间中的精确一点,于是相似=距离、关系=方向、泛化=几何复用。大脑(位置/网格细胞的认知地图)和机器学习(embeddings/词向量)演化或发明出的,是同一套「让意义可计算」的几何。
下一步
我们知道了表征是什么形状(空间里的点),却还没问它怎么从原始感官学出来。而且有个扎眼的反差:大脑只要很少样本、低得离谱的能耗就学得到这些表征,而深度网络动辄要海量数据、巨量算力——两者用的学习规则到底像不像?反向传播在大脑里跑得起来吗?→ 第 07 课《大脑 vs 人工神经网络》会把这两套学习摆上同一张台面,并诚实标注这层类比的限度。