从AGI到ASI：通向超级智能的四条路径

一、这篇论文最特别的设计：它是写给你的 AI 助手看的

论文第一节不是引言，而是一份给读者的 AI 助手的元指令。作者建议人类读者直接让自己的 AI 助手按各自的兴趣与背景生成定制摘要，并追问一个很有意思的问题：报告中的论证是否经受住了时间检验。

给 AI 助手的要求相当严格：必须先给出 AGI 与 ASI 的非正式定义作为框架；必须完整列出数字智能的优势，不得压缩成更少的条目；必须说明四条路径不互斥、可并行发生；必须完整列出所有摩擦点，逐一说明每个摩擦如何影响每条路径；还必须强调"确定这些摩擦的影响本身就是开放研究问题"。最后一条要求最见功力——AI 助手必须用报告发表之后的新工作，把这份报告放回当下语境，指出哪些研究问题已有实质进展，以及报告被广泛接受的缺陷与疏漏。

这个设计本身就是一个判断：一份关于长期技术轨迹的报告，其价值在于被持续更新，而不是被当成结论保存。

二、两个定义，以及一个被故意设得很高的门槛

论文用 Legg-Hutter 智能度量作形式化锚点——把智能定义为智能体在所有可计算任务上的平均表现。关键的论证在于：既然智能在这个框架下是一个连续统，就不需要精确定义 AGI 与 ASI 之间的阈值，只需保证两者之间存在显著差距。

AGI 被定义为"大致和单个人类一样聪明"，即在多数认知任务上达到中位数人类水平。作者顺带指出一个常被忽略的事实：首个 AGI 在很多任务上已经是超人的，它只是不够通用。

ASI 的门槛被故意设得很高——不是超越个体专家，而是超越大型人类专家集体。论文给出的具体锚点是：数万名专家级人类、工作十年、使用某个时点的技术与文化产物、攻克单一问题。这个规模大致相当于整个专业研究领域或大型企业。AlphaFold、AlphaGo 这类单领域超人系统被明确排除在 ASI 之外。

再往上还有一层理论极限：通用 AI（UAI），由 AIXI 形式化定义，是 Legg-Hutter 连续统的终点。它不可计算，只能被越来越强的 ASI 从下方逼近。

这里有一个中文讨论中几乎从未提及的边界条件：定义是相对于人类表现的，而人类会因为技术与文化演化的产物（教育、教科书、工具）变得更强，使人类阈值成为一个移动靶。极端情况下，人类可以"先造出 ASI，再用 ASI 解题"，从而在任何任务上达到 ASI 水平——这显然违背术语本意，所以才需要那个具体锚点。

三、数字智能的优势，以及它的劣势

论文认为，数字智能与生物智能最根本的区别是：我们知道 AI 的完整算法描述。由此推出一系列优势：基底独立，可以在运行时迁移到更强或更节能的硬件；可加速、可减速、可任意时长暂停；输入输出速度极高，今天的模型可在数秒内摄入多本书；工作记忆规模与读写带宽可远大于人类；以及最关键的一条——无损复制，不只复制作为"DNA"的源码，还复制作为"终身经验"的记忆状态，可以任意备份恢复、按需生成实例。

对同质的 AI 实例来说，甚至连原始学习信号（如平均梯度更新）都能在集体中高带宽共享。这是人类组织完全不具备的性质。

但论文同样列出了劣势，这部分在传播中几乎总被丢掉：模拟计算原则上可能更节能；数字智能与物理系统交互依赖模数与数模转换。更有意思的是一个反直觉的观点——输入输出带宽受限反而可能是生物智能的优势。人类的通信瓶颈迫使其形成关于世界与他者的深层内部模型和抽象层级；而机器的高带宽意味着它可能不需要、因而不会习得这类抽象。

四、四条从 AGI 到 ASI 的路径

论文强调这四条路径彼此基本独立、很可能并行发生，只是节奏不同——例如若规模扩展撞到天花板，算法范式转变就会被更激烈地追求。

路径一：扩展算力、模型与数据。这是唯一一条有历史数据可以拟合预测模型的路径。论文对"更多算力等于更多智能"这个通俗版本做了重要修正：朴素地给暴力搜索更多算力，在几乎所有非玩具领域都会失败，包括国际象棋。真正的能力提升来自搜索效率的改进——更好的先验与归纳偏置、启发式、大幅降低搜索空间维度的代理模型。因此本路径的中心问题被重新表述为：不是规模扩展是否足以到达 ASI，而是规模扩展能否被维持得足够久。

路径二：算法范式转变。论文对当前范式给出了一个明确判断：有相对广泛的共识认为，"在人类语料上预训练大型 transformer + 微调 + 测试时扩展"这一套不足以达到人类级 AGI。被点名的缺失要素包括近乎无限的上下文、持续学习、以及在交互环境中做稳健决策——最后这一项论文明确说当前模型仍然做不好。范式转变的具体猜想包括转向神经形态硬件或模拟计算、转向基于强化学习的预训练、转向世界模型的显式表示。

路径三：递归自我改进。这条路径被拆成四类机制，并映射到人类演化的三个过程：代码（改架构与优化器，对应基因演化）、硬件（从芯片设计一直到制造工艺与能源生产）、数据（策划、生成、仿真更高质量数据集，对应文化演化——论文特别指出，文化演化才是过去约五万年提升人类智能的更重要因素）、以及分工（专业化提高效率，释放资源支撑更大集体，对应合作演化）。

AlphaZero 被当作数据式自我改进的范例：搜索得到的改进结果定期蒸馏回策略与价值网络，从而递归提升搜索本身的效率。论文对分工这一条给了诚实的不确定性说明——对 AI 集体而言分工是否构成显著的递归改进因素目前并不清楚，因为人类专业化需要数年，而基础模型可以通过提示或微调迅速变成"专家"。

路径四：多智能体协调与群体能动性。论文引入 group agency 理论：AGI 智能体可形成连贯的"群体智能体"（例如完全自动化的公司），其表征状态与动机状态可能不同于其构成成员。中心化的形态可能是大量同质副本以极高带宽通信——论文点出人类组织的对照：低通信带宽通常约束了中心化，迫使采用较深的层级式决策；而一个 AGI 首席执行官"可能在相当字面的意义上能与每个员工对话"，从而减少对深层级的需求。去中心化的形态则可能像市场，用价格信号协调海量智能体，产生超出任何单个参与者理解能力的系统级动力学。

论文对这个问题的提法做了一次重要纠正：问题不在于自由市场还是控制论式集体谁会胜出，而在于哪种组织形式会在哪种情境下出现，以及如何通过机制设计去影响这些结果。

五、六个可能卡住的地方

论文明确说这份清单并不穷尽，而且在写作时无法判断这些是导致进展停滞的根本限制，还是仅仅减速而不停止的摩擦——确定它们的显著性本身就是重要的开放研究问题。

数据墙：模型规模的当前增长率已经超过了全球新文本的增长率。反例证据很硬——朴素地在自生成数据上迭代训练会导致性能平台甚至退化。但论文给了一个很大的转折：测试时扩展可能产出足量"刚好超出基模型能力前沿"的高质量数据，再迭代蒸馏回基模型，形成类似 AlphaZero 的自举动力学。结论是数据可得性可能是摩擦而非根本阻断。

经济与自然资源需求增长过快：投资何时不再可行，取决于 AI 产生的经济回报，而这很难估计。论文的条件判断很清晰：若这条转变更多依赖算法创新与自我改进，经济投入可以比能力增益扩展得更慢，此时它只是边际摩擦；若纯靠规模扩展，则可能成为主要瓶颈。它还列出了硬件工程约束——内存带宽与互连瓶颈可能严重限制有效算力利用率。

当前范式失去动力：论文列出了几个可能使"在大规模预收集数据集上训练"这件事本身失效的问题：幻觉（因为训练数据没有标注真实的偶然不确定性）、对提示注入的脆弱性（论文提出这可能是在非平稳输入上训练的最优预测器的必然属性）、以及从第三人称数据学习行动时产生的自我妄想。

研究本身在变难：已有研究发现每位研究者的生产率随领域成熟而下降——维持摩尔定律今天所需的研究者数量约为 1970 年代的 18 倍。但论文给了一个有力的反驳：若人工研究者与人类同样能干，研究经济学将显著改变，因为把人工研究者实例增加 20 倍可能在数小时内或数周内做到，而培养人类研究者需要数年。重要的限定是：这个论证只适用于研究的认知部分，实验仍然要跑。

抽象障碍——这是全文最具原创性的一节。假说是：主要在人类认知产物上训练的 AI 系统，可能被既有的概念框架所界定。论文给的思想实验极其锋利：如果一个现代基础模型在同样海量的 token 上训练，但内容被限制在前工业、前牛顿时代的科学知识，它能推理出广义相对论甚至量子力学吗？在缺乏微积分、万有引力、电磁学这些概念原语的情况下，这似乎极不可能。

由此得出的推论直指当前的基准狂欢：基准的快速饱和很可能源于在"人类定义、人类可验证"的知识边界内达到精通，而不表明一条会以同样速度超出人类推理能力的轨迹。与之配套的是"具身瓶颈"——新概念必须对照物理实在验证，而证实是一个受物理时延限制的经验问题。最尖锐的结论是：若抽象障碍成立，它就在递归自我改进回路中引入一个物理的、线性的减速，可能把智能增长速率限制到经验科学的速率，而非计算扩展的速率。

刻意减速、监管与社会反弹：论文把辩论的两面都记录了下来。一些人倡导限速作为稳定社会的工具；另一些人论证限速有机会成本——延迟医学、气候科学与经济生产率的进步，这同样可能造成不稳定。它还给出一个理论化的反制力量："军事—经济适应主义"：采纳提升生产力与力量的技术的行为体被差别性地选择而存续扩张，因此持续的群体间竞争系统性地偏好竞争力增强技术的开发，而不论其对人类福祉的含义。但论文也补了一句平衡：治理并非纯粹是刹车，也可以是塑造发展方向与质量的转向机制。

六、几个值得单独拎出来的判断

关于奇点。论文严格区分三种增长动力学：指数增长（乘数恒定）、超指数、双曲增长（增长率随存量本身增长）。只有双曲增长在数学上真正产生奇点——有限时间内无限增长。论文明确指出"奇点"一词在口语中已被泛用于指代任何快速起飞，即使其动力学并无真正奇点。它同时提醒：持续双曲增长是很强的假设，自然有限系统中的摩擦通常在触及奇点前很久就压低增长率，形成 S 形曲线。

关于全能。论文有一节标题就是立场：超级智能既非全知也非全能。它明确声明：即使 AI 进展远超人类级 AGI，也不意味着它一定能"治愈"衰老、用纳米机器人任意重塑物质、上传人脑或建造戴森球。限制来自光速、朗道尔原理、贝肯斯坦上界这类基础物理，来自物理世界的实时性（复杂动力系统无法以足够精度仿真），来自物理操纵的非普适性（建造需要时间、消耗能量），也来自逻辑与复杂度理论的边界。

关于创造力。论文借用 Boden 的三层框架：组合式、探索式、变革式。判断是：迄今为止的 AI 成就——AlphaGo 的第 37 手、自动证明新定理、AlphaFold 发现新蛋白结构——主要属于前两层，是在定义良好、人类提供的概念空间内的深刻探索。达到第三层（创造全新的概念空间）可能是 ASI 的标志性要求。论文引用 DeepMind 首席执行官提出的假想测试：回到 1900 年代初，AI 能否用爱因斯坦当时拥有的同样信息推出广义相对论？今天答案显然是否定的，"还缺了点什么"。

变化不是一次性的奇点，而是持续的流。

七、论文自己的结论，以及它给结论标的置信度

结论是分层给出的。首先，假设人类级 AGI 能够达成，AI 进展恰好停在人类水平是不合理的。其次，即使个体模型进展停滞，集体 AI 能力仍可能通过运行大量 AGI 实例继续提升——论文给了一个具体推演：假设 AGI 初期昂贵、只能跑 1,000 个实例，在有效算力每年约十倍增长的速率下，一年后是 10,000 个，五年后是一亿个。第三，要让 AI 进展恰好停在人类水平，论文中提到的多个摩擦必须全都变成硬阻断。

然后是最需要被完整引用的那一句判断，作者自己标注为"带着大量不确定性、因而低置信度"：更可能的是 AI 进展要么在 AGI 水平之前就平台化，要么相对平滑地从 AGI 走到（弱）ASI。这个判断假设了没有递归自我改进带来的剧烈加速——而这不能被排除。最终立场是：在未来一二十年内驶过 AGI 进入 ASI 领域的可能性不能被轻易否定。

论文还提了一个成本很低、回报可能很高的具体建议：持续量化追踪 AI 研究自动化与递归改进的指标。以及一条方法论主张：在指数或双曲动力学下，不确定性区间会迅速爆炸，均值或中位数预测对决策可能没什么信息量；对策是维持一组多样化的定量模型，产出带不确定性估计的预测，追踪关键量，频繁修订。

汉兴评述：企业该从这份论文里拿走什么

第一，拿走它的方法论，而不是它的时间表。这篇论文最值得企业模仿的，是它拒绝给出单一预测的态度：维持一组情景、追踪关键量、频繁修订。对应到企业里，就是不要押注某一个"AI 会在某年做到某事"的判断，而是建立几个可观测的先行指标，定期更新自己的判断分布。

第二，"抽象障碍"这一节值得战略部门反复读。它给出的推论对企业采购有直接含义：基准分数的快速上涨，可能只说明模型在人类已定义的问题上越来越熟练，不说明它能解决你行业里那些还没被谁定义清楚的问题。一个只看榜单选型的组织，很容易高估模型在自己真实场景中的迁移能力。

第三，四条路径里，企业唯一能直接参与的是第四条。规模扩展、范式转变、递归自我改进都发生在模型厂商那一侧；而多智能体协调与群体能动性，恰恰发生在使用方的组织设计里。论文关于"低通信带宽迫使人类组织采用深层级"的观察反过来讲很有意思——如果协调成本被大幅降低，组织的层级深度就失去了它原本的必要性。这不是遥远的推演，而是每一个正在部署多智能体系统的公司当下就在做的组织实验。

延伸阅读：From AGI to ASI（arXiv 官方原文）