"我们想要的 AI 是能像人类一样自主发现，而不是塞满人类已发现知识的容器。"——Richard Sutton
2019 年 3 月 13 日，强化学习之父、加拿大阿尔伯塔大学教授 Richard Sutton，在个人博客 [incompleteideas.net] 上贴了一篇不到 1300 字的短文。标题只有三个词：The Bitter Lesson。
七年过去了，这篇短文像一枚政治不正确的小石子，持续敲打着 AI 圈每一代"塞人类知识"的人。它讲的苦涩不是故事，而是规律。
我把全文做了完整中文翻译（置于文章前部），后段给出我的解读。文末附参考文献。
01 · CHAPTER ONE
一、全文翻译
译注说明
01
self-play 译为「自我博弈」，指智能体通过自我对弈产生训练数据的学习范式。
02
value function 译为「价值函数」，是强化学习中用于评估"某状态下采取某动作的长期收益"的函数。
03
hidden Markov model (HMM) 译为「隐马尔可夫模型」，一种基于概率转移的序列建模方法。
04
meta-methods 译为「元方法」，意指"能寻找和捕获复杂性的方法"，而不是"已捕获好的复杂性本身"。
05
agent 译为「智能体」。智能体所能获得的计算资源即 *compute that is available to the agent*，下文统一以「智能体可用算力」表述。
摘要
从长达 70 年的 AI 研究历史中可以吸取到的最大教训是：最终最具成效的方法是那些利用了计算的通用方法，且其优势极其明显。
这一结论的根本原因在于摩尔定律，或者更准确地说是摩尔定律的推广——单位计算成本持续呈指数级下降。
大多数 AI 研究的开展方式，都默认智能体所能获取的计算资源是恒定不变的（在这种情况下，利用人类知识几乎是提升性能的唯一途径）。然而，在稍长于一个典型研究项目的时间跨度内，不可避免地会有海量计算资源变得可用。
为了追求短期内立竿见影的改进，研究人员往往寻求利用他们在特定领域的人类知识；但从长远来看，唯一起决定性作用的是对计算资源的利用。
这两者不一定背道而驰，但在实践中，它们往往处于对立面。把时间花在其中一个方向上，就意味着无法兼顾另一个。不仅如此，研究人员在心理上往往对某一种路径存在路径依赖。而且，基于人类知识的方法往往会使算法变得异常复杂，从而使其难以适应和利用那些基于计算的通用方法。
AI 研究人员由于未能及早领悟这一「苦涩的教训」而蒙受挫败的例子屡见不鲜。回顾其中一些最著名的案例是大有裨益的。
国际象棋领域的教训
在计算机象棋领域，1997 年击败世界冠军卡斯帕罗夫（Kasparov）的方法是基于大规模、深度的搜索。
当时，绝大多数计算机象棋研究人员对此感到沮丧，因为他们长期以来一直致力于利用人类对象棋特殊结构的理解来开发方法。
当一个更简单、依靠特定硬件和软件支持的、基于搜索的方法被证明远比前者有效得多时，这些坚守人类知识研究路径的学者输得并不体面。他们声称，「暴力（brute force）」搜索这次虽然赢了，但它不是一种通用策略，而且无论如何，人类绝不是这样下棋的。
这些研究人员本质上希望基于人类输入的方法获胜，而当结果不尽如人意时，他们感到了失望。
围棋领域的教训
在计算机围棋领域也出现了类似的研究演进轨迹，只是滞后了 20 年。
早期的研究投入了巨大的精力，试图通过利用人类知识或围棋的游戏特性来避免搜索；但事实证明，一旦能够在大规模上有效应用搜索，所有这些努力都变得微不足道，甚至起到了反作用。
同样关键的一点是，通过自我博弈（self-play）进行学习来获取价值函数（value function）的应用（正如在许多其他游戏乃至国际象棋中的应用一样，尽管在 1997 年首次击败世界冠军的程序中，学习并没有扮演主要角色）。
通过自我博弈进行学习，以及广义上的机器学习，本质上与搜索一样，都是能够引入海量计算资源的关键路径。
在 AI 研究中，搜索（Search）和学习（Learning）是利用大规模计算资源的两类最核心的技术。
在围棋领域，正如在国际象棋中一样，研究人员起初的努力集中在利用人类的理解（以此减少对搜索的需求），而直到很久以后，通过彻底拥抱搜索和学习，才取得了大得多的成功。
语音识别领域的教训
在语音识别领域，早在 20 世纪 70 年代，由 DARPA 资助过一项早期竞赛。
参赛者中包括大量利用人类知识的专用方法——比如对单词、音素、人类声道等的知识。而另一方则是当时较新的、本质上更偏向统计学且计算量大得多的方法，这些方法基于隐马尔可夫模型（HMM）。
结果，统计方法再次战胜了基于人类知识的方法。
这导致了整个自然语言处理（NLP）领域在随后的数十年中发生了渐进式的重大变革，统计和计算逐渐主导了该领域。
近期深度学习在语音识别中的崛起，则是这一一贯方向上的最新进展。
深度学习方法对人类知识的依赖更低，却使用了更庞大的计算量，并结合在海量训练集上的学习，从而极大地提升了语音识别系统的性能。
正如在游戏领域一样，研究人员总是试图让系统按照他们认为的「自身大脑工作的方式」去运行——他们试图将这些认知强行塞入系统——但最终证明，随着摩尔定律让大规模计算成为可能、并找到将其善加利用的方法时，这种做法反而是适得其反的，同时也极大地浪费了研究人员的时间。
计算机视觉领域的教训
在计算机视觉领域也存在类似的规律。
早期的研究方法将视觉构想为寻找边缘、广义圆柱体（generalized cylinders）或者基于 SIFT 特征的匹配。然而在今天，所有这些方法都被摒弃了。
现代深度学习神经网络仅使用卷积（convolution）和某些不变性（invariances）的概念，其表现却要好得多。
教训的提炼
这是一个极其深刻的教训。 **作为一个领域，我们仍未彻底吸取它，因为我们还在继续犯同样的错误。** 为了看清这一点并进行有效的抵制，我们必须理解这些错误背后的吸引力。 我们必须接受这个苦涩的教训：**从长远来看，将我们自以为是的思维方式直接构建到系统里是行不通的**。
这个苦涩的教训基于以下历史观察：
01
AI 研究人员总是试图将知识直接构建到他们的智能体中；
02
这在短期内总是有效的，并且能给研究人员带来个人成就感；
03
但从长远来看，这种做法会遇到瓶颈，甚至会阻碍进一步的进展；
04
突破性的进展最终总是通过一种截然相反的、基于搜索和学习并横向扩展计算能力的路径来实现。
这种最终的成功往往带有一丝苦涩，并且常常难以被业内完全消化，因为这是对他们所青睐的、以人类为中心的研究路线的全面颠覆。
两条可操作的启示
我们应该从这个苦涩的教训中领悟到两点：
第一，通用方法（general purpose methods）具有巨大的威力。这类方法能够随着计算资源的增加持续提升性能，哪怕当计算资源变得极其庞大时依然如此。目前看来，能够在这种维度上实现无限制扩展（scale）的两种方法是搜索和学习。
第二，人类心智的实际运作机制极其复杂，且不可逆地繁复。我们应当停止尝试去寻找那些试图精简思考心智内容的简易方式（例如去寻找关于空间、物体、多智能体或对称性的简单思考模型）。所有这些都是外部世界任意的、本质复杂的产物。
它们不应该被直接构建进系统，因为它们的复杂度是无穷无尽的；相反，我们应该只构建那些能够发现并捕获这种任意复杂性的元方法（meta-methods）。
这些元方法的本质在于它们能够找到优秀的近似解，但寻找这些近似解的应当是我们的算法，而不是我们人类自己。
我们想要的是能够像人类一样去自主「发现」的 AI 智能体，而不是仅仅塞满了「人类已发现的知识」的容器。将我们已有的发现直接构建进去，只会让我们更难看清如何去实现那个真正的「发现过程」。——Rich Sutton，《The Bitter Lesson》，2019 年 3 月 13 日
02 · CHAPTER TWO
二、我的解读
完整读完 Sutton 的原文，可以提炼出三个层次。
- Sutton 反对的不是"人类知识"，而是"塞知识作为主架构"
他没说"不要用任何人类知识"。他说的是：把人类知识作为主架构是危险的——一旦主架构围绕人类知识展开，方法就变得复杂、僵化，难以规模化和吸收算力的进一步增长。
LLM 是这件事的反面佐证：架构层面（Transformer + next-token + 缩放律）没有任何领域知识，完全是通用搜索 + 学习；但训练数据里却塞入了人类迄今为止几乎全部的文字——这是另一种意义上的"塞知识"。
这是 Sutton 在 2026 年初 Dwarkesh 长访谈里的核心论点：LLM 部分符合 Bitter Lesson（用了海量算力），但 没有真正意义上"从自己的经验中学习"的能力。
- 历史模式反复验证了同样的赢家
四个子领域，同一个曲线：
-
国际象棋：手工棋理 → 暴力深搜（1997）； - 围棋：人类知识 + 游戏特性 → 自我博弈 + 价值函数（2016）；
-
语音识别：HMM 统计法碾压手工语言学特征（1970s 起）；
-
计算机视觉：SIFT / 边缘 / 广义圆柱体 → 通用 CNN（2012 起）。
每一次，研究者本人最熟悉的那条路被算力路线彻底反超。
- 2019 年的反对象 vs 2026 年的反对象
2019 年时，Bitter Lesson 主要在打 NLP / CV 圈里仍在做手工特征工程的人。
2026 年，Sutton 在 Dwarkesh 长访谈里把矛头转向了 LLM 圈本身，主要的反点是：
- 目标不真。LLM 的 next-token prediction 是一个被动目标——它本质上是"匹配已有的人类语料"。真正的智能目标应当是"改变外部世界"。 - 没有真正的世界模型。LLM 模仿了人的语言，但没有"我的动作会让世界怎么改变"的预测能力。要补足这一点，需要 直接和环境交互——从经验里学。 - 下一波破局会再次来自"反方向"。Sutton 认为，下一波真正的破局不会在 LLM 上加更多数据，而会来自 direct experience learning（直接从经验中学习） + RL 风格的 agent。
也就是说，7 年前那篇小文，2026 年仍然有效——并且正在换一拨反对象继续生效。
- Bitter Lesson 的跨界外推
哪怕你不做 AI 研究，Sutton 这篇也是一份值得读的硬方法论：
凡是花大量人力把领域知识硬编码到工作流程、规章制度、KPI、SOP 上的岗位——都面临一个长尺度风险：这些凝结人类经验的方法，在短期一定好用，但长期的赢家永远是不嵌知识、只"搜索 + 学习"的全自动对手。
互联网公司"人审 + 规则"被 AI 内容审核替代时，已经验证过一遍。再过 5 年，这条规律将在顾问、咨询、律师、合规行业上再次验证——这是 Bitter Lesson 真正跨越学科的力量。
03 · CHAPTER THREE
三、参考文献与延伸阅读
一手文献
01
Richard S. Sutton, The Bitter Lesson, 2019 年 3 月 13 日，incompleteideas.net。原文地址：http://www.incompleteideas.net/IncIdeas/BitterLesson.html
02
Richard S. Sutton, Learning to Predict by the Methods of Temporal Differences, Machine Learning, 1988。
03
Richard S. Sutton & Andrew G. Barto, Reinforcement Learning: An Introduction, MIT Press, 第 1 版 1998、第 2 版 2018。
关键一手案例的补充
01
Murray Campbell, A. Joseph Hoane, Feng-hsiung Hsu, Deep Blue, Artificial Intelligence 134 (1--2), 2002, pp. 57--83。
02
David Silver 等，Mastering the Game of Go without Human Knowledge, Nature 550, 2017, pp. 354——359。
03
David Silver 等，A General Reinforcement Learning Algorithm that Masters Chess, Shogi, and Go through Self-Play, Science 362 (6419), 2018, pp. 1140——1144。
04
Krizhevsky, Sutskever, Hinton, ImageNet Classification with Deep Convolutional Neural Networks, NeurIPS 2012。
05
Hinton 等，Deep Neural Networks for Acoustic Modeling in Speech Recognition, IEEE Signal Processing Magazine, 2012。
06
Fred Jelinek, Statistical Methods for Speech Recognition, MIT Press, 1997。
后续讨论与延伸
01
Richard Sutton, The Era of Experience, 2024 年 7 月，incompleteideas.net / talk slides。
02
Dwarkesh Patel, The Sutton Interview, Dwarkesh Podcast，2026 年初。
03
Yann LeCun, A Path Towards Autonomous Machine Intelligence, 2022。
04
28 条关键研究综述，可参考 Stanford CS231N / CS224N 系列讲义对深度学习范式革命的整理。
END
我是 LeisureLinux，专注 IT 技术深度观察与前沿解读。
如果你觉得今天这篇有收获，欢迎点赞、在看、转发三连，我们下篇见。
OKF 开放知识格式：用 Markdown+YAML 标准化你的 AI 知识库接入
