2024年6月,Leopold Aschenbrenner 在长达 4 小时 15 分钟的对话中,基于他发表的
165 页深度报告——《态势感知:未来十年》(Situational Awareness: The Decade Ahead)。不仅给出了结论,更给出了极其详尽的逻辑链。
- 谁是 Leopold Aschenbrenner?
Leopold 的背景极其耀眼且具有争议,这增加了他观点的权重:
• 天才背景:德国出生,19 岁便以第一名的成绩(Valedictorian)从哥伦比亚大学毕业。
• OpenAI 前成员:曾就职于 OpenAI 的 超级对齐(Superalignment) 团队,师从 Ilya Sutskever。他在 2024 年 4 月因涉嫌"泄密"被解雇(他自称是因为向董事会提交了关于安全和中国间谍威胁的备忘录)。
• AGI 现实主义者:他目前创办了一家专注于 AGI 的投资公司,支持者包括 Stripe 创始人 Collison 兄弟、Nat Friedman 和 Daniel Gross 等硅谷顶级大佬。
-
2027 年实现 AGI 的技术外推(Counting the OOMs) Leopold 认为 AGI 的到来并非魔法,而是**数量级(OOMs)**的积累。从 GPT-2 到 GPT-4,模型在算力和算法效率上提升了约 4-5 个数量级。按照目前的投资和技术迭代,到 2027 年我们将再次实现 4-5 个数量级的飞跃。这意味着模型将从目前的"高中生水平"直接跨越到能够胜任复杂科研任务的"顶级专家"。
-
从对话框到长时序 Agent(Unhobbling) 目前的 AI 处于被"束缚"的状态(Hobbled),仅限于文字往返。Leopold 预测接下来几年是"去枷锁"的过程:AI 将拥有长期记忆、自主决策、并在复杂软件环境中操作的能力。它们将不再是聊天机器人,而是像虚拟员工一样,你给它一个任务,它可以独立工作数周并交付结果。
-
万亿美元规模的算力集群 AI 的竞争已经从"软件竞赛"转变为"重工业竞赛"。到 2027-2030 年,单一算力集群(Cluster)的建设成本将从现在的百亿级飙升至 1 万亿美元。这将涉及数百万块最顶尖 GPU 的并行运算,是人类历史上最庞大的单一资本投入。
-
能源与电力的"国家级挑战" 算力集群将消耗恐怖的电能。Leopold 预测,支撑 AGI 的数据中心将需要 10GW 到 100GW 的电力(相当于美国数个大州的用电总量)。这种规模的能源调配超出了私营企业的范畴,必须依靠国家力量重启核能、甚至通过特别法案来改造国家电网。
-
智能爆炸(Intelligence Explosion) 这是全片最硬核的逻辑点:一旦 AGI 达到人类 AI 工程师的水平,它们的第一项任务就是自我研发。数百万个 AGI 可以 7x24 小时、以硅速迭代 AI 算法。这种"AI 研发 AI"的反馈循环,将使技术进步从年缩短到月,甚至更短,从而迅速催生超级智能(ASI)。
-
认知劳动力的大规模取代 Leopold 认为 AI 将首先在 Zoom/Slack 这种"远程办公"场景下取代人类。因为这些工作本质上是处理 Semantics(语义)和逻辑,AI 在这一领域的能力曲线是呈指数级向上的。相比之下,机器人在物理世界(如搬砖)的落地反而会滞后。
-
曼哈顿计划级别的实验室安全 他严厉批评目前像 OpenAI、DeepMind 这种公司的安保水平还停留在"普通硅谷初创公司"阶段,根本无法阻挡国家级力量( 间谍)的渗透。他主张 AGI 的核心参数(Weights)应被视为核武器级别的国家机密,必须进行物理隔绝(Air-gapped)。
-
"回归历史":中美 AI 竞赛
Leopold 认为 20 世纪 90 年代以来的和平全球化只是历史的"休假"。随着 AGI 逼近,世界将回到类似二战/冷战的大国博弈态势。谁先掌握超级智能,谁就拥有了绝对的经济、军事和密码破译优势,这将导致地缘政治的彻底失衡。
-
AGI 的国家化与"该项目"(The Project) 随着 AGI 显现出改变国运的力量,私营公司的控制力会减弱,政府的介入将不可避免。他预言 2027/28 年左右,美国可能会启动一个类似"曼哈顿计划"的国家级 AGI 项目,将军队、情报机构和顶级科技公司整合在一起。
-
极端的对齐挑战(Superalignment) 当 AI 变得比人类聪明得多时,传统的 RLHF(人类反馈强化学习)将失效。我们无法通过"人类评价"来指导一个超越人类理解范畴的行为。如果不能在智能爆炸前解决对齐问题,人类可能会在短短几个月内失去对文明走向的控制权。
LeisureLinux 视角补白: 从技术底层来看,Leopold 强调的是**算力(Infra)+ 数据(Data)+ 算法效率(Algorithms)**的暴力堆叠。对于我们关注 Linux/系统安全的人来说,他提到的"实验室安全"和"国家级计算集群架构"其实是未来十年最顶级的工程挑战。
原版视频:搜索 Leopold Aschenbrenner - 2027 AGI & Super-intelligence Race