2025年，AI行业的撕裂感

站在2025年的尾巴上回望，全球AI行业呈现出一种让人眩晕的撕裂感。

在旧金山，耗资数倍算力训练出来的GPT-5，并没有像GPT-4那样带来断层式的跃迁。

而在山景城，Google的Gemini 3 Pro却席卷全球。这助推母公司Alphabet的市值逼近4万亿美元大关。

关键点：如果单凭GPT-5的表现就断言Scaling Law失效，恐怕有些短视。同样，因Google的股价就盲目乐观，也难免过于天真。

同样的算力洪流，为什么给出了完全不同的答案？

这并非巧合，而是一层正在缓慢下沉的迷雾。

Scaling Law：从线性快感到收益递减

让我们回到那个著名的经验公式——Scaling Law（缩放定律）。

这个公式曾向我们承诺：只要把参数、数据、算力往上推，模型误差就能下降，智能就一定会涌现。

它像物理学定律一样，给了投资人们无限的信心，让他们敢于在沙漠里建设核电站级别的数据中心。

在科学家的对数世界里，Scaling Law是一条通往天堂的直线。

但在工程师的线性世界里，它却是一条通往地狱的收益递减曲线。

奥秘在于“对数陷阱”。模型的误差L与参数量N、数据量D之间，是一个幂律关系（Power Law）。

这意味着，它们只在双对数坐标系（Log-Log Plot）下才呈现为一条直线。这就是所谓的视觉欺骗，也是“对数陷阱”的来源。

AI发展早期，从1亿参数到100亿参数，算力的指数级增长带来了智能肉眼可见的飞跃。我们习惯了“投入一分，收获一分”的线性快感。

可一旦迈入10万亿参数的深水区，数学规律就露出了另一面：要想获得同样的线性智力增长，需要10倍、100倍甚至更多的算力。

在万亿参数区间，数据难度与优化地形发生结构性变化。幂律的有效斜率开始随规模降低。

我们正在进入一个可怕的区间——边际收益正逼近边际成本。

这到底是黎明前的迟滞，还是宇宙给智能设下的物理上限？

迷雾的本质：高维优化的困境

为什么Scaling Law会出现动摇？为什么投入了天文数字的算力，Loss曲线有时却拒绝下降，甚至莫名其妙地发散？

如果只是简单地归结为算力不够或数据不够，那就太傲慢了。

真正的问题在于：我们在用三维世界的直觉，去揣测万亿维空间的几何结构。

从碗到迷宫

在教科书里，或者简单的机器学习模型中，我们习惯了凸优化（Convex Optimization）的思维。

即便在三维空间，损失函数的曲面看起来也像一个光滑的碗。只要沿着坡度（梯度）往下滚，无论从哪里出发，最终总能滚到碗底（全局最优解）。

但在拥有10万亿参数的大模型里，这个地形图变成了10万亿维。这是一个极其诡异、反直觉的“非凸”（Non-convex）世界。

它不是一个碗，而是喜马拉雅山脉的褶皱里藏着无数个马里亚纳海沟，如同迷宫一般。

在这个高维世界里，SGD（随机梯度下降）算法就像一个被蒙住双眼的登山者——手无地图，目不能远视，只能靠脚底板感受到的一点点坡度来决定下一步落向何方。

鞍点的迷魂阵

在这个高维迷宫中，最大的敌人甚至不是悬崖（梯度爆炸），而是鞍点（Saddle Point）。

想象一下马鞍的形状：前后翘起，左右耷拉，中心点平平的。高维数学中有个反直觉的现象：维度越高，出现局部死胡同（局部最小值）的概率反而越低，但出现鞍点的概率呈指数级上升。

这就构成了迷雾的核心——平庸的广阔性。当优化算法（SGD）走到鞍点时，会发现脚下是平的，四周也是平的。梯度消失了，指南针（导数）指向了零。

算法的“鬼打墙”

此刻，我们陷入了所谓的高维鬼打墙。工程师看到Loss不动，只能有两种猜测：

• 真的到达了谷底（收敛）：模型已经学尽了数据里的智慧，再训练下去就会过拟合。
• 被困在半山腰的一片巨大平原（鞍点）上：而在平原边缘，也许就藏着通往超级智能的、更深邃的峡谷。

这就是迷雾的本质——我们失去了坐标系，无法区分自己是到了终点，还是困在了半路。

在万亿维度的黑暗森林里，我们拿着手电筒（算力），却照不到地图的边界。

这时候，单纯堆算力，加大Batch Size或学习率，就像在平原上从走路变成了狂奔。但这有用吗？

也许跑得更快，就能冲出这片平原，发现新大陆（Grokking，顿悟现象）。也许只是在原地打转得更快，甚至因为惯性太大，冲出了安全边界，导致模型崩溃。

我们不知道前面是死路，还是转角。

物理学的启示：AI训练的“温度”博弈

面对这个让数学家头秃的高维迷宫，物理学家们却会心一笑：这不就是分子的布朗运动吗？

在物理学中，描述微小粒子在流体中受到随机撞击而运动的朗之万动力学（Langevin Dynamics），竟然揭示了AI训练最底层的秘密。

这个公式可以拆解成两股力量的博弈：SGD = 梯度下降 + 随机扰动。

这部分是确定性的——我们熟悉的梯度下降，指引着登山者往山谷的方向走。

这部分是随机性的——一个随机的推力，就像水分子的布朗运动在不停地撞击花粉，让系统获得能量，从而跳出浅坑。

探索（Exploration）与利用（Exploitation）的永恒矛盾

这构成了AI训练中最大的物理迷雾——温度的博弈。

• 高温状态（Small Batch Size）：当Batch Size较小时，噪声很大，系统温度很高。登山者像一个喝醉了酒的疯子（布朗运动），步履蹒跚。代价是训练效率极低，算力无法跑满，甚至可能原地打转。但红利恰恰在于：这种乱动的能量，让他有机会跳出平庸的局部最优解（Local Minima），误打误撞地发现通往更深谷底（更高智能）的新路径，避免“冻死”在平庸里。这是探索的胜利。
• 低温状态（Large Batch Size）：为了喂饱万卡集群、追求极致的训练速度，我们被迫疯狂加大Batch Size——相当于在人为地给系统降温。红利是登山者变得极其理性、稳重，沿着当前坡度全速冲刺，效率拉满。但代价也很沉重：当温度逼近绝对零度，模型就失去了“乱动”的权利。一旦它掉进一个看似不错、实则平庸的坑里，就再也没有能量跳出来了。这是利用的诅咒。

这就解释了AI训练中那个著名的悖论：为什么有时候“不准确”的小Batch，反而能训练出更好的模型？

因为当模型掉进一个浅浅的局部最优坑时，高温（小Batch）引起的热噪声的能量，可以把它踢出来，让它有机会继续寻找更深的山谷（全局最优，Global Minima）。

临界点在哪里？

在万卡集群中，小Batch会导致吞吐量骤降。工程师不得不疯狂加大Global Batch Size，从几千增加到几百万。

在物理学上，这是一个极其危险的操作——我们在疯狂地给系统降温！

设想一下，当Batch Size趋向于无穷大时，公式里的噪声项将趋近于零，系统温度降到了绝对零度。模型将变成绝对理性、但也绝对僵化的登山者——每一步都无比精确，但也正因为如此，一旦掉进平庸的鞍点或小坑，就再也没有能量跳出来了。

大模型此时表现出的梯度消失、更新频率降低、顿悟减少，与“过冷态”（Supercooling）惊人一致。

我们可能正处在这样一个危险的临界点：算力越多、Batch越大，系统反而越难以涌现更高智能。

未知的相变

也许，在足够大的超高维空间里，地形会发生某种神奇的拓扑相变，最后只剩下一个通往真理的全局最优？如果那样，现在的降温就是正确的。

但如果不是呢？这就是迷雾的核心——我们不知道自己是正在冻结，还是在逼近相变。

当前训练模式更像是“快速淬火”而不是“缓慢退火”——系统在降温过程中失去了跳出次优区域的能力。

想用大Batch和快收敛来走捷径，宇宙就给你一个局部最优的残次品。想得全局最优的正果，就必须忍受漫长的、充满波动与噪声的修行。

没有噪声，就没有探索。没有探索，就没有涌现。这就是热力学给AI设下的终极防线。

三大路径：向左、向右、向前

面对Scaling Law的迷雾，行业并没有达成共识。反而分裂出了三条截然不同的探险路径。每一条路径背后，都站着一位顶级大神。

Ilya Sutskever：向内求索

作为深度学习的教父，Ilya的转身最为决绝。他那句“Scaling时代结束了”，并非指算力无用，而是指单纯通过堆砌数据进行预训练（Pre-training）的边际效益已经归零。

他的逻辑很清楚：人类互联网上的高质量数据已经枯竭，继续喂给模型垃圾数据，只会导致模型塌陷。

他的赌注是System 2（慢思考）与价值对齐。他认为智能的飞跃不再来自于读更多的书，而来自于更深刻的思考——通过重构算法，让模型学会像人类一样进行长链条的逻辑推理，学会自我反思和顿悟。

本质上看，这是一条生物学路线：试图在硅基芯片上，复刻人类大脑从直觉到逻辑的进化过程。

黄仁勋：向外扩张

黄仁勋抛出了一张三级火箭图，向世界宣告：算力的需求正在从单一的预训练，裂变为“预训练 + 后训练 + 推理”的三重叠加。

特别是Test-time Scaling（推理时扩展），意味着未来AI的思考过程本身就是一个巨大的算力黑洞。

他在告诉全世界的投资者和客户：别担心Scaling Law失效，也别担心你们买的GPU会闲置。只要想让AI具备逻辑推理能力（Reasoning），不仅需要买卡做预训练，还需要更多的卡做后训练，更需要海量的卡做推理！

他的逻辑是：如果把模型练得更聪明变得很难，那就让它在考试时多想一会儿。为了回答一个难题，模型可以在后台生成一万种解法，进行自我博弈、验证、搜索，最后输出一个最佳答案。

他的赌注是暴力穷举——以前推理只需要几毫秒，现在可能需要几分钟，算力消耗不仅没有减少，反而指数级上升了。这是一条工程学路线：既然质变太难，那就用量变，用无限的计算时间来模拟质变。

Demis Hassabis：系统融合

DeepMind的掌舵人Demis则站在了两者之间，试图构建一个混合系统。

他的逻辑是：大模型（LLM）只是大脑的语言中枢，负责直觉和表达，天生缺乏逻辑和规划能力。试图让语言模型学会做数学，本身就是一种错配。

他的赌注是AlphaGo范式——50% Scaling（保持直觉的敏感度）+ 50% 搜索/规划算法（引入逻辑的严密性）。他将蒙特卡洛树搜索（MCTS）植入大模型，让AI在回答问题前，先在思维空间里推演未来的几步棋。

这是一条系统论路线：他不相信单一模型的全能，他相信结构的力量。

十字路口的盲人摸象

在这个十字路口，人类最顶尖的智慧发生了分歧。这恰恰说明，我们对智能本质的理解，依然处于“盲人摸象”的阶段。

• 智能是压缩？如Ilya认为——从海量信息中提取规律。
• 智能是搜索？如Demis和黄仁勋认为——在可能性空间中寻找最优解。
• 智能是涌现？如Scaling派认为——量变引起质变。

每一个流派，可能都只是摸到了真理的大象的一部分：Ilya摸到了认知，黄仁勋摸到了计算，Demis摸到了结构。

也许他们最终会在山顶汇合，但在迷雾消散之前，每一条路都充满了巨大的风险与诱惑。

现实世界的豪赌：中美两国的立场

尽管理论的迷雾如此浓重，现实的物理世界里却呈现出一幅更疯狂、甚至带有某种宗教狂热色彩的景象。

在美国，OpenAI正在规划耗资千亿美元的“星际之门”（Stargate）计划。白宫的“创世纪任务”（Genesis Mission）直接将AI研发提升到了曼哈顿计划的战略高度，拿出了能源部、NASA、NIH等机构几十年积累的联邦科学数据集。

然而，如果物理墙是刚性的，这可能成为一场消耗巨大、产出寥寥的建设。

在中国，国家机器正在编织一张跨越几千公里的算力巨网，试图将西部的风与光转化为东部的智能。政府发布了《人工智能行动意见》，选择了工程化落地与产业赋能，试图用AI重塑实体经济的每一个细胞。

但实用主义路线也可能在通往AGI的圣杯之战中，因缺乏极致的单点突破而落后。

这是一个极其有趣的现象：科学上，Scaling Law的边际效应正在递减，Loss曲线正在变平；工程上，人类对算力的投入却在呈指数级增长。

为什么在迷雾最浓的时候，中美两个超级大国都不约而同地选择把油门踩死？

• 因为智能的涌现是非线性的。对国家而言，算力是确定性投资，而模型能力提升是随机变量。
• 在不对称风险下，最优策略是先确保平台，再赌突破。如果竞争对手做到了，而我们没做到，那可能是灭顶之灾。

这是一场“以力破巧”的终极实验——我们试图用人类工业文明的极限，去点燃智能时代的第一级火箭。

结论：敬畏规律，保持行进

未来的竞争可能不仅仅是算力规模，而是如何在保持高噪声探索能力的前提下，继续扩展规模。

Scaling Law的动摇，更像是宇宙给人类的一个警醒：哪怕我们拥有了富可敌国的财富，哪怕我们动用了国家机器的雷霆手段，在客观的数学法则与物理定律面前，我们依然微不足道。

我们要敬畏规律，但更要保持行进。科学的历史，本就是一部在迷雾中摸索的历史。

• 牛顿不知道引力的本质，但他写出了万有引力定律。
• 卡诺不知道分子的存在，但他推导出了热力学第二定律。

经验公式（Scaling Law）是我们手中唯一的火把——虽然它可能会摇曳，甚至可能会熄灭，但在那之前，我们别无选择。

迷雾的尽头，也许是吞噬万亿财富的深渊，也许是通往新大陆的桥梁。

但人类这种生物，最擅长的，就是在深渊之上，架起桥梁。因为，只有触碰到了边界，我们才知道自己究竟能飞多高。