数学 · 思想史科普
数学的逻辑
一条从"3 − 5 等于几"走到"数学永远证不完自己"、再从哥德尔与图灵转身、一路造到神经网络与扩散模型的推理线。每一课都被上一课没答完的问题逼出来——这就是线性思维。我们不按代数/几何/分析的目录走,而按因果顺序走:前半是数学思想史加三块现代地基,后半把这套数学搭成会学习、会生成的机器,每一步都是不得不走的。
为什么是这门课
数学常被讲成一堆要背的公式和互不相干的章节,于是大多数人记住了"怎么算",却从不知道"为什么会有这东西"。本课把整个数学串成一条因果链:每一次,现有工具撞上一道解不了的题,人类就被逼着发明新的数、新的结构、新的方法;而每个新发明又埋下下一个危机。读完你不仅认得这些名词,更知道人类为什么不得不这样想。每课结尾都留一个问题,正是下一课的起点。
中心论点
数学不是从天而降的真理,而是一连串"被逼出来的发明"。这条"危机 → 发明 → 新危机"的链条贯穿全程,前半通向一个惊人的终点:任何足够强大的数学系统,都无法在内部证明自己既无矛盾、又什么都能证(哥德尔),也无法算尽一切(图灵)。确定性是建出来的,不是给的。而正因为是建的,这套数学结实到能去造东西——后半程它兑现成一台会从数据中学习、乃至会创造图像的机器,把同一个引擎从计数一直转到深度学习、注意力与扩散模型(今天的大模型)。
第一部分 · 数从哪里来
00
导览:数学是一条被逼出来的发明链
用 √2 不是分数当钩子,立起全程要逐步挣来的中心论点,并画出 44 课的整条推理链——危机如何逼出发明,发明又如何埋下下一个危机。
01
计数与证明:从"数得清"到"为什么一定对"
数数很好,但怎么断言"对所有自然数都成立"?证明与数学归纳法的诞生,以及欧几里得"素数有无穷多个"那记漂亮的反证。
02
算术的两道裂缝:负数与分数
减法 3−5、除法 3÷2 各踹开一道封闭性裂缝,逼出负数 ℤ 与分数 ℚ;而"负负得正""不能除以 0"都不是规定,是"保留旧规律"逼出的唯一选择。有理数稠密,却未必无缝。
03
对角线的危机:√2 不是分数,实数登场
毕达哥拉斯危机:边长为 1 的正方形,对角线长 √2 却不是任何分数。无理数填平了数轴的缝隙,造出实数 ℝ 与"完备性"。
04
不可能的数:x² = −1 与复数
x² = −1 在实数里无解,逼出虚数 i。从"不可能"到"旋转 90°",再到代数基本定理——加上 i 之后,数系终于"闭合",每个方程都有解。
第二部分 · 形与空间:公理从"真理"变成"选择"
第三部分 · 无穷与变化:微积分与它的严格化
06
芝诺的箭:无穷小、无穷和与极限
芝诺说运动不可能,因为要走完无穷多段。1/2+1/4+1/8+… 加无穷多项竟然等于 1——驯服无穷的关键工具"极限"由此登场。
07
瞬间的速度:导数
"某一瞬间的速度"听起来是 0÷0。用极限让割线滑向切线,0/0 变成一个确定的数——导数,也就是变化率。微积分的前半部。
08
累积与面积:积分与微积分基本定理
曲线下的面积怎么算?用无穷多个细矩形去逼近——积分。然后是皇冠上的明珠:微积分基本定理证明微分与积分互为逆运算。
09
ε–δ:把"无穷小"赶出去,给极限上锁
微积分明明好用,逻辑上却建在"时有时无的无穷小"这团幽灵上(贝克莱的嘲讽)。魏尔斯特拉斯用 ε–δ 把极限钉死——严格化不是洁癖,是被逼的。
第四部分 · 不确定与多维:现代世界的两块基石
10
与不确定性讲道理:概率
前面的数学都在征服"确定、连续"的世界,那"随机、不确定"呢?样本空间、期望、大数定律、贝叶斯——人类如何把"碰运气"变成一门精确的科学。
11
一次处理很多维:线性代数与向量空间
现实里要同时处理成千上万个变量。向量、线性映射(矩阵)、维度,把"多个数捆成一个对象"——这是现代数据与人工智能说的语言。
第五部分 · 数学回望自身:结构、无穷、地基、极限
12
对称的语言:群与"为什么五次方程没有公式"
把"结构"本身抽象出来,就有了群。抽象的回报惊人:年轻的伽罗瓦用它证明了五次方程不可能有求根公式——数学第一次证明"某件事做不到"。
13
无穷有多大:康托尔与对角线
所有无穷都一样大吗?康托尔的对角线论证证明:实数比整数"更多"。无穷竟然分等级。同行说他疯了,今天它是整个现代数学的地基。
14
罗素的悖论与地基:集合论与公理化
"集合"成了一切数学的地基——可罗素一句话就把它炸了:那个"所有不包含自己的集合",到底包不包含自己?为了补地基,有了公理化集合论与希尔伯特"把一切证明清楚"的宏伟纲领。
15
哥德尔不完备:数学永远证不完自己
希尔伯特想让数学完备又自洽。25 岁的哥德尔证明这不可能:任何足够强的系统里,都有"真却无法证明"的命题——这是"数学回望自身"的终点。可故事没完:在转身造物之前,还有三块现代地基要补齐。
第六部分 · 现代地基:连续、大小与计算
16
拓扑:没有距离的"连续"与"形状"
ε–δ 用距离定义连续;可扔掉尺子后,"邻近"还剩什么?拓扑用开集重新定义连续与"形状"——咖啡杯和甜甜圈是同一个东西。它也是"数据的形状"(流形)的语言。
17
测度论:给"大小"和概率上锁
能给每个集合都赋一个"长度"吗?巴拿赫–塔斯基说不能。σ-代数与测度给"大小"上锁,勒贝格积分推广了黎曼积分;柯尔莫哥洛夫更用它把整个概率论建成测度论——这是后半程概率的基岩。
18
图灵机与可计算:从"证不出"到"算不出"
哥德尔证明有真却证不出的命题;图灵把它翻译成"算不出"——停机问题用的正是康托尔那记对角线。为定义"计算",他造出图灵机与通用机,也就造出了计算机本身。后半程要在这台机器上,再造一台会学习的机器。
第七部分 · 表示与几何:把数据放进空间
19
学习问题:把"从数据中学习"变成一道数学题
哥德尔与图灵之后,数学转身去造东西。监督学习其实是一道数学题:给一堆 (输入, 输出),找一个函数把它们对上,再用"损失"量好坏。后半程所有工具,都是为解这道题准备的。
20
相似与投影:内积、范数与最小二乘的几何
一个样本是空间里的一个点。内积量"像不像"、范数量长短、正交投影量"最接近"——最小二乘拟合,本质就是把答案投影到特征张成的空间上。
21
子空间、基与秩:线性方程组的几何
一堆向量到底张成什么?方程 Ax=b 何时有解、何时唯一?子空间、基、秩、零空间,决定了一个线性模型"能表达什么、不能表达什么"。
22
主轴:特征值与特征向量
一个线性变换里,哪些方向只被拉伸、不被转向?这些"特征方向"是数据与动力系统的主轴,也是下一课降维的钥匙。
23
SVD 与 PCA:把高维数据压扁而不失真
特征分解只认方阵;SVD 把它推广到任意矩阵。PCA 沿"方差最大"的方向投影,把几百维压成几维而几乎不丢信息——降维与压缩的基石。
24
高维的怪相:维度灾难与测度集中
高维空间反直觉到吓人:体积几乎全挤在外壳上,随机点两两近乎等距,"最近邻"失去意义。这解释了机器学习为什么离不开结构与正则化。
第八部分 · 学习就是优化
25
往哪儿下坡:多元微积分与梯度
学习 = 把损失降到最低。梯度指出"最陡的上坡方向",负梯度就是下坡的方向。偏导、梯度、雅可比、海森——优化的指南针。
26
反向传播:神经网络如何算梯度
几百万个参数,梯度怎么算得动?链式法则 + 计算图 = 反向传播:前向算一遍值,反向把局部导数沿边相乘,一次遍历得到全部梯度。这就是深度学习能训练的原因。
27
梯度下降:沿着坡一步步走到底
有了梯度,朝它的反方向一小步一小步往下走。学习率太大就震荡发散,太小就龟速;随机梯度下降与动量,是现代训练的主力。
28
凸优化:什么时候保证能到全局最优
梯度下降会不会卡在半山腰?凸函数里,局部最优就是全局最优——一路下坡必到谷底。拉格朗日乘子则把"带约束的优化"一并收拾。
第九部分 · 概率、统计与信息
29
随机变量与分布:给不确定性建模
确定的优化搞定了,可数据天生带噪声。随机变量与分布(伯努利、类别、高斯)把"不确定"写成能算的数学对象。
30
多元高斯与协方差:相关性的几何
多个随机量一起波动、彼此相关,用协方差矩阵刻画;多元高斯的等高线是一个椭圆,它的主轴正是前面 PCA 的特征方向——概率与几何在此握手。
31
从数据估参数:最大似然与最大后验
手里只有数据,模型参数取多少最合理?最大似然挑"让数据最可能"的参数;加上先验,就是最大后验——也正是正则化的概率解释。
32
贝叶斯推断:用证据更新信念
一个点估计不够诚实。贝叶斯保留整条后验分布:先验遇上数据,更新成后验,把"我有多确定"也一并算出来。
33
信息论:熵、交叉熵与 KL 散度
怎么度量"惊讶"、怎么比较两个分布?熵、交叉熵、KL 散度给出答案——而分类里无处不在的交叉熵损失,正是从最大似然自然长出来的。
34
采样与蒙特卡洛:当积分算不出来
后验和期望常常没有解析解。蒙特卡洛用"随机撒点"去估积分(大数定律的兑现),是贝叶斯、VAE、扩散模型背后的引擎。
第十部分 · 把它们拼成学习器
35
第一台学习机器:线性回归与逻辑回归
把前面所有工具拧在一起:线性回归(最小二乘 = 高斯噪声下的最大似然),逻辑回归(sigmoid + 交叉熵 + 梯度下降)。监督学习的"Hello World"。
36
没有标签也能学:PCA 与高斯混合
没有标准答案怎么学?PCA 找主结构、降维;高斯混合 + EM 做软聚类与密度估计——无监督学习如何从数据里自己发现模式。
37
支持向量机:几何与凸优化的合体
怎么画一条"最稳"的分界线?支持向量机把最大间隔的几何、凸对偶的优化、核技巧的升维,拧成一个优雅的整体——经典机器学习的巅峰。
第十一部分 · 从一个神经元到现代 AI
38
神经元与深度网络:从一个神经元到万能逼近
一个神经元就是逻辑回归的近亲,连 XOR 都学不会;把神经元堆成多层、加上非线性,就能逼近任意函数——万能逼近定理。这是"从一条会拐弯的线"到深度网络的那道坎。
39
为什么学得会:泛化、偏差-方差与正则化
能拟合一切的模型,凭什么不只是背下训练集?偏差-方差、容量与过拟合的 U 形曲线,以及正则化——它其实就是给权重加一个先验(MAP)。这是机器学习最深的地基问题。
40
归纳偏置:卷积如何把结构变成先验
全连接对图像参数爆炸、又无视结构。卷积把"局部性 + 平移不变"这个先验直接刻进架构——用极少参数看图,这正是 CNN 掀起深度学习革命的原因。让架构的对称性匹配数据的对称性。
41
注意力与 Transformer:现代 AI 的引擎
语言需要长程、随内容而变的连接。注意力 = 用内积算相似度、softmax 归一、再对 value 加权平均——一个可微的"软查表"。堆起来就是 Transformer,今天所有大模型的骨架,而它全由本课程学过的零件搭成。
42
从判别到生成:VAE、扩散与变分推断
判别模型给 x 预测 y;生成模型要对数据分布 p(x) 本身建模、再采样出新样本。可 p(x) 算不出来——变分推断(ELBO)绕出 VAE,扩散模型则学着把噪声一步步去成图像。全是 KL、蒙特卡洛、高斯与梯度的重组。
43
收官:从计数到现代人工智能
把一个 Transformer 块拆开,标出它身上每块数学来自第几课;再回望整条 44 课的链——从"数得清"到会创造图像的扩散模型,被一砖一瓦建起来的数学,正是今天 AI 的地基。
怎么读这门课
- 从 00 顺着读到 43。这是一条因果链,不是公式手册——每一课的结尾问题就是下一课的开头。前一半(00–18)是数学思想史加三块现代地基(连续、大小、计算),后一半(19–43)把这套数学搭成会学习、会生成的机器,两段一气呵成。
- 动手玩每课的小实验。割线滑向切线、对角线造出新数、亲手跑一台会停机的图灵机、加神经元逼近任意曲线、把噪声去成图像……公式看不懂没关系,先把直觉建起来。
- 不需要高深数学。有高中基础即可跟上;所有公式都用普通符号写,并配文字解释。
- 留意每课的两个关节:开头"线性回顾"说清我们为什么会到这,结尾"下一步"说清我们为什么必须往下走。
- 它通向两个方向。后半程亲手把数学搭成了机器学习的地基;想看它跑起来,去 gpt_mini、强化学习 或 扩散模型。若想走"数学是物理的语言"那条线,《宇宙简史》 里的相对论与量子,就是这里几何与微积分在真实宇宙中的兑现——数学 → 宇宙 → 物质 → 地球 → 人类,同一条推理线接力走下去。