第十一部分 · 从一个神经元到现代 AI
收官:从计数到现代人工智能
上一课,机器学会了"创造"。这一课我们做两件事:先把一整台现代 AI——一个 Transformer 语言模型——彻底拆开,认出它身上每一块零件来自第几课;然后,沿整条 44 课的链一路走回最开头那条画不准的对角线,看清楚我们究竟建起了什么。
留下的问题:它问得很直接——这一整套东西,到底是不是"新数学"?从 3 − 5 到会写诗、会画图的大模型,中间那条链,能不能一眼看穿?
本课新增:不是新知识,而是一次清算。我们拆开一个 Transformer,标出每块零件的出处;再回望整条链的七个乐章;最后回到那条 √2 的对角线,把这门课想证的唯一一件事,正式挣到手。
解剖一台现代 AI
今天最强的 AI,几乎都是一台 Transformer(第 41 课)。它看起来神秘,可一旦拆开,你会发现没有一块零件是这门课没教过的。我们顺着数据的流动走一遍,每一步都点名它的出处。
① 把词变成向量(嵌入):一个词、一个像素,先被表示成高维空间里的一个向量(第 11 课)。"意思相近"就是"方向相近",用内积度量(第 20 课)。一个样本 = 空间里的一个点(第 19 课)。
② 注意力:让每个词看到该看的词。注意力权重 = 对 query 与 key 的内积做 softmax,再对 value 加权平均——内积来自第 20 课,softmax 来自第 33 课,整块来自第 41 课。这是 Transformer 的心脏。
③ 前馈层:掰弯。每个位置再过一个小的多层网络(第 38 课):线性变换 + 非线性。正是这一掰,让模型跳出直线的牢笼,逼近任意函数(万能逼近)。
④ 损失:该最小化什么。预测下一个词,用交叉熵损失——它不是随便挑的,而是第 33 课从信息论长出来、又恰好等价于第 31 课最大似然的那个量。
⑤ 反向传播 + 梯度下降:学。损失对亿万参数的梯度(第 25 课),靠反向传播一次遍历全部算出(第 26 课);再按梯度下降朝负梯度挪一小步(第 27 课)。重复亿万次,参数慢慢变成"会说话"的参数。
⑥ 为什么没有背下来:泛化。模型大到能记住一切,却仍能对新句子work——靠的是泛化与正则化(第 39 课),也就是给参数加一个"别太复杂"的先验(第 31 课 的 MAP)。
⑦ 生成:采样出新句子。训练好后,模型对"下一个词"给出一个概率分布,再采样(第 34 课);画图模型则用扩散一步步去噪(第 42 课)。
而这一切,都跑在一台通用计算机上——图灵(第 18 课)在纸上造出的那台机器;参数是实数(第 03 课)的浮点近似,概率建在测度(第 17 课)之上。下面的地图,让你点开每块零件,看它来自哪一课。
从一个神经元,到一个会思考的庞然大物
你可能想说:这跟前面那些"一个内积、一次非线性、一个损失"的小模型不也差不多吗?对,一台 Transformer 确实只是这些老零件的堆叠。质变发生在两个地方。其一,把零件堆成层、层叠成网,再靠万能逼近(第 38 课)与合适的归纳偏置(第 40 课、注意力 第 41 课)撑起表达力;其二,反向传播(第 26 课)让这个庞然大物仍然训练得动。于是整个现代 AI,归结起来只是把那几步,在亿万个参数上、重复亿万次。没有新魔法。AI 不是凭空降临的奇迹,它是这套被一步步逼出来的数学,攒到一定规模后的涌现。
回望整条链:七个乐章
现在,做这门课唯一一次该做、也最值得做的事——从最后一块砖,沿着整条链一路走回最开头。44 课其实是同一台引擎的七个乐章,每一段都被上一段解不了的问题逼出来。
看清楚这条链了吗?前四个乐章把数学送出去征服世界——数、形、变化、机遇与维度;第五乐章它转身审视自己,撞上了证明的边界;第六乐章它补牢地基、造出机器;而第七乐章,它带着这份清醒动手造物,造出了今天的人工智能。一以贯之的,是同一台引擎。
回到那条对角线
还记得第 00 课,我请你拿尺子量一条长度正好等于 √2 的对角线吗?你量不出来。√2 = 1.41421356… 永远写不完,也永远不是任何两个整数的比——传说为了守住"有些长度不是分数"这个秘密,毕达哥拉斯学派把泄密的门徒扔进了海里。
那时,那条对角线像一道裂缝,威胁着整座数学大厦。可现在你知道结局了:人类没有回避那条裂缝,而是沿着它一路建下去——为了安放 √2,造出了实数;为了给实数上锁,造出了 ε–δ 与测度;为了处理无穷多维的实数向量,造出了线性代数;为了让向量从数据里学习,造出了梯度、损失、神经元、注意力。那条曾经吓死人的对角线,正是今天 AI 地基里的一块砖。
常见误解
- "大模型是黑箱,里面是没人懂的魔法。"
里面没有任何魔法。每一步都是内积、softmax、加权平均、交叉熵、反向传播、梯度下降——你在这门课里全学过。黑的是规模(亿万参数难以逐一解读),不是原理。 - "AI 用的是某种全新的、我学不会的高深数学。"
恰恰相反。撑起今天大模型的,是内积、偏导、链式法则、最大似然、交叉熵、采样——全是本课范围内的工具。难的从来不是单块砖,是把它们攒到足够大的规模与工程。 - "数学是发现的永恒真理,不是发明的。"
这门课给的是另一面:每一次扩张(负数、复数、非欧几何、不同大小的无穷)都是人类主动选择把规则建成那样。哥德尔与图灵更说明,连"数学能否证明/算尽自己"都没有现成答案。确定性是建出来的。 - "学完这些就能直接做出 ChatGPT 了。"
你拿到的是看懂它的钥匙,不是工程蓝图。从原理到一个真正的系统,还隔着数据、算力、架构与无数工程取舍。但没有这把钥匙,那些工程对你永远是天书;有了它,你能真正看懂它在做什么。
② 数学是物理的语言。这门课的几何与微积分,还在另一处兑现:真实的宇宙。非欧几何长成了广义相对论里弯曲的时空,微积分写出了万物的运动,概率潜入了量子世界。想顺着"数学是物理说的话"那条线走下去,去《宇宙简史》。
从计数到现代人工智能,从一条画不准的对角线到会创造的机器——这条链,到这里走完了。谢谢你一路走到最后。