all_lessons/数学的逻辑/43第 44 课 / 共 44 课

第十一部分 · 从一个神经元到现代 AI

收官:从计数到现代人工智能

上一课,机器学会了"创造"。这一课我们做两件事:先把一整台现代 AI——一个 Transformer 语言模型——彻底拆开,认出它身上每一块零件来自第几课;然后,沿整条 44 课的链一路走回最开头那条画不准的对角线,看清楚我们究竟建起了什么。

线性回顾
上一课:生成模型(第 42 课)用变分推断与扩散,让机器从数据分布里采样出全新的图像——从"识别世界"跨到了"创造世界"。
留下的问题:它问得很直接——这一整套东西,到底是不是"新数学"?3 − 5 到会写诗、会画图的大模型,中间那条链,能不能一眼看穿?
本课新增:不是新知识,而是一次清算。我们拆开一个 Transformer,标出每块零件的出处;再回望整条链的七个乐章;最后回到那条 √2 的对角线,把这门课想证的唯一一件事,正式挣到手。
本课路线
(1) 解剖一台现代 AI:Transformer 的每块零件来自第几课;(2) 一个可点的"零件溯源"地图;(3) 回望整条链:七个乐章;(4) 重述引擎:危机 → 发明 → 新危机;(5) 回到那条 √2 的对角线——确定性是出来的;(6) 去哪儿:看它跑起来,或听数学讲物理。

解剖一台现代 AI

今天最强的 AI,几乎都是一台 Transformer第 41 课)。它看起来神秘,可一旦拆开,你会发现没有一块零件是这门课没教过的。我们顺着数据的流动走一遍,每一步都点名它的出处。

① 把词变成向量(嵌入):一个词、一个像素,先被表示成高维空间里的一个向量第 11 课)。"意思相近"就是"方向相近",用内积度量(第 20 课)。一个样本 = 空间里的一个点(第 19 课)。

② 注意力:让每个词看到该看的词。注意力权重 = 对 query 与 key 的内积softmax,再对 value 加权平均——内积来自第 20 课,softmax 来自第 33 课,整块来自第 41 课。这是 Transformer 的心脏。

③ 前馈层:掰弯。每个位置再过一个小的多层网络(第 38 课):线性变换 + 非线性。正是这一掰,让模型跳出直线的牢笼,逼近任意函数(万能逼近)。

④ 损失:该最小化什么。预测下一个词,用交叉熵损失——它不是随便挑的,而是第 33 课从信息论长出来、又恰好等价于第 31 课最大似然的那个量。

⑤ 反向传播 + 梯度下降:学。损失对亿万参数的梯度第 25 课),靠反向传播一次遍历全部算出(第 26 课);再按梯度下降朝负梯度挪一小步(第 27 课)。重复亿万次,参数慢慢变成"会说话"的参数。

⑥ 为什么没有背下来:泛化。模型大到能记住一切,却仍能对新句子work——靠的是泛化与正则化(第 39 课),也就是给参数加一个"别太复杂"的先验(第 31 课 的 MAP)。

⑦ 生成:采样出新句子。训练好后,模型对"下一个词"给出一个概率分布,再采样第 34 课);画图模型则用扩散一步步去噪(第 42 课)。

而这一切,都跑在一台通用计算机上——图灵(第 18 课)在纸上造出的那台机器;参数是实数第 03 课)的浮点近似,概率建在测度第 17 课)之上。下面的地图,让你点开每块零件,看它来自哪一课。

现代 AI 零件溯源:点开每块,看它来自第几课
一台 Transformer(以及它的训练与生成)由这些零件拼成。点任意一块,看清它其实是你这门课里早就摸过的老朋友——AI 不是新数学,是老数学攒到了足够的规模。
这块零件
点上面任意零件 →

从一个神经元,到一个会思考的庞然大物

你可能想说:这跟前面那些"一个内积、一次非线性、一个损失"的小模型不也差不多吗?对,一台 Transformer 确实只是这些老零件的堆叠。质变发生在两个地方。其一,把零件堆成层、层叠成网,再靠万能逼近(第 38 课)与合适的归纳偏置(第 40 课、注意力 第 41 课)撑起表达力;其二,反向传播(第 26 课)让这个庞然大物仍然训练得动。于是整个现代 AI,归结起来只是把那几步,在亿万个参数上、重复亿万次。没有新魔法。AI 不是凭空降临的奇迹,它是这套被一步步逼出来的数学,攒到一定规模后的涌现

回望整条链:七个乐章

现在,做这门课唯一一次该做、也最值得做的事——从最后一块砖,沿着整条链一路走回最开头。44 课其实是同一台引擎的七个乐章,每一段都被上一段解不了的问题逼出来。

看清楚这条链了吗?前四个乐章把数学送出去征服世界——数、形、变化、机遇与维度;第五乐章它转身审视自己,撞上了证明的边界;第六乐章它补牢地基、造出机器;而第七乐章,它带着这份清醒动手造物,造出了今天的人工智能。一以贯之的,是同一台引擎。

这台引擎,从头到尾只有一句话
危机 → 发明 → 新危机。现有的工具撞上一堵它翻不过的墙;为了翻墙,人类被迫发明新的数、新的结构、新的方法;而每一个新发明,又砌起了下一堵墙。从 3 − 5 在自然数里无解,到 x² = −1 没有实数解,到哥德尔证明数学证不完自己、图灵证明有些东西算不出来,再到"几百万参数的梯度怎么算"——没有一步是从天而降的真理,每一步都是被逼出来的发明。

回到那条对角线

还记得第 00 课,我请你拿尺子量一条长度正好等于 √2 的对角线吗?你量不出来。√2 = 1.41421356… 永远写不完,也永远不是任何两个整数的比——传说为了守住"有些长度不是分数"这个秘密,毕达哥拉斯学派把泄密的门徒扔进了海里。

那时,那条对角线像一道裂缝,威胁着整座数学大厦。可现在你知道结局了:人类没有回避那条裂缝,而是沿着它一路建下去——为了安放 √2,造出了实数;为了给实数上锁,造出了 ε–δ 与测度;为了处理无穷多维的实数向量,造出了线性代数;为了让向量从数据里学习,造出了梯度、损失、神经元、注意力。那条曾经吓死人的对角线,正是今天 AI 地基里的一块砖。

中心论点(终于挣到手了)
这门课从头到尾只想证明一件事:确定性不是给的,是建出来的。数学不是一堆从天而降、要你背诵的真理——它是人类面对一道道解不了的问题,一砖一瓦、被逼着亲手砌起来的建筑。而正因为它是被一步步建起来的,它才结实到能造出今天的 AI。每一块砖你都摸过了:从计数,到证明,到无穷,到不确定,到一台会创造的机器。地基,是你自己走过来看清的。

常见误解

这条链通向两个地方
① 去看它跑起来。这门课亲手把数学搭成了机器学习的地基;现在去看这地基上真正立起来的东西——大语言模型怎么训练(gpt_mini,里面的注意力与 Transformer 正是第 41 课)、智能体怎么靠奖励学习决策(强化学习)、机器怎么从噪声里生成图像(扩散模型,正是第 42 课那台机器)。你会一眼认出里面的内积、梯度、交叉熵——全是老朋友。

② 数学是物理的语言。这门课的几何与微积分,还在另一处兑现:真实的宇宙。非欧几何长成了广义相对论里弯曲的时空,微积分写出了万物的运动,概率潜入了量子世界。想顺着"数学是物理说的话"那条线走下去,去《宇宙简史》

从计数到现代人工智能,从一条画不准的对角线到会创造的机器——这条链,到这里走完了。谢谢你一路走到最后。