优化理论、进化生物学、竞争市场与机器学习共同预示了什么——以及为何答案一致
-–
关注 Dharma AI 的人都知道,我们将专业化视为高效 AI 系统的核心原则之一,它影响着从成本、性能到可靠性和自主性的方方面面。很少有论文能像 Goldfeder、Wyder、LeCun 和 Shwartz-Ziv 在 2026 年的研究那样严谨地阐述这一观点。
在本文中,我们将探讨并解读《AI 必须通过超人类自适应智能拥抱专业化》(Goldfeder, Wyder, LeCun, & Shwartz-Ziv, 2026)中的思想。该论文的收敛性论证——跨越优化理论、生物学、组织经济学和机器学习——为后续讨论提供了证据结构和智力基础。本文的框架、组织和编辑性综合由 Dharma 完成。
-–
传统的预期是合理的:随着 AI 系统能力的增强,它们也应变得更加通用。更强的能力和更广的适用性似乎是自然的伴侣——更多的资源、更好的方法和更广泛的训练应该能产生越来越自信地处理更多任务的系统。
但实际出现的模式却截然不同。在任何特定领域取得最显著成果的系统,往往是那些最专注于该领域的系统。蛋白质结构预测的突破来自一个为单一科学任务设计的系统。仔细审视 AI 的历史里程碑,反映的是对特定领域的深度聚焦,而非通用性的扩展。
这种模式反复出现。它跨越不同领域、不同年代、以及几乎毫无共同之处的架构选择。如此一致的规律暗示着一个共同的原因——而这个原因根本并非源自 AI 研究本身。
-–
算法因适配目标而胜出
1997 年,Wolpert 和 Macready 证明了一个在 AI 架构讨论中鲜少提及的结论:没有任何单一的通用优化算法能在所有可能问题上胜过其他所有算法(Wolpert & Macready, 1997)。这一证明是数学性的,而非哲学性的。平均而言,在学习者可能面临的每一个可设想的问题上,所有算法的表现都同样好——也同样差。一个算法在某类问题分布上获得优势,必然在其他问题上做出让步。性能是被重新分配,而非倍增。
其实际含义直接明了:“算法因适配目标问题而胜出”(Goldfeder et al., 2026)。该定理并非说通用性不可能——而是说通用性并非性能优势。实现超常表现的一贯结构性路径是集中化:用广度换取适配度。
当有限资源进入视野,这一结论便愈发尖锐。任何真实系统都受制于约束——有限的计算能力、有限的数据、有限的开发时间。在能量有限的前提下,将可用资源集中于学习有限任务集合的方法,必然优于将相同资源分散到无限范围的做法。算术法则毫不留情:随着任务集合无限扩张,每个任务可获得的资源将趋近于零。在有限资源条件下,通用覆盖与有意义的表现之间存在着直接冲突。
该定理指向的结论并非通用性本身有害。它比这更具体、更具操作性:正如论文所述,“通用性是一个理论概念,但在实际应用中,它不过是一个神话”(Goldfeder 等,2026)。真正能在现实约束下存续的,不是试图包揽一切的体系——而是与目标精准匹配的体系。
数学将此确立为一种预测,而非偏好。这一预测在优化理论之外的世界是否成立,则是另一个问题。
-–
生物学与市场早已洞悉的规律
在优化理论为这一预测命名之前,另外两个领域早已得出了相同的结论。
正如论文对生物学案例的描述:在一个生态位中取得的任何性能提升,都必然以其他方面的代价为代价。通才型生物拥有适应多种环境的特征,但在任何单一环境中都并非最优——其能力过于分散,无法在特定条件下占据主导地位。没有不伴随权衡的性能提升;投入某一能力的资源,便无法用于其他能力。自然选择青睐与局部条件相匹配的设计,而非针对所有可能环境进行均匀覆盖的优化。能够存活并繁衍的生物,并非那些最通用的——而是那些最特化的。经过进化时间尺度的积累,最终占据主导地位的并非通才,而是填充各个生态位的专才。正如论文所述:“特化并非生物学的偶然,而是有限资源、相互竞争的目标以及奖励在进化相关挑战子集上表现的环境所共同导致的必然结果”(Goldfeder 等,2026)。
竞争性市场通过不同的机制遵循着同样的动态。未能达到性能门槛的组织和策略会被淘汰——并非通过灭绝,而是通过退出、资金撤出以及被更匹配的替代方案所取代。竞争充当着选择机制:它放大有效策略,淘汰无效策略。该机制与生物选择毫无共同之处——没有遗传、没有突变、没有进化时间尺度。选择的单位并非生物体,而是组织、产品、策略。然而,结构性压力是相同的:有限的资源、性能要求,以及系统性地清除那些因分布过广而无法在关键领域脱颖而出的实体。当性能标准明确且一致时,集中化的能力将战胜分散化的能力。
进化与市场通过完全不同的机制运作——不同的时间尺度、不同的选择单位、不同的遗传机制。然而,在资源压力下,两者都产生了相同的结果:专精优于广度。定理预测了这一点。生物学和市场独立得出了这一结论。当第三个领域通过完全不同的途径得出相同发现时,这种模式就不再像是一个定理,而开始呈现出关于受限系统如何运作的某种更普遍的规律。
-–
机器学习不断重新发现专精
同样的模式也出现在机器学习内部——并非源自优化理论,而是通过构建系统并观察其改进过程的经验积累得出的。
最清晰的形式是负迁移:当系统在多个任务上训练时,由于这些任务相互竞争而非协作,导致可测量的性能下降(Ruder, 2017)。当任务共享结构时,联合训练会有帮助。但当任务争夺表征能力,或在训练中施加冲突的梯度时,单个任务的性能会低于专用系统所能达到的水平。广度的增益变成了深度的代价。这是将有限能力分配给相互拉扯的任务所带来的有据可查的后果。而专精系统无需面对这种竞争,因此不必付出这一代价。
前沿模型的架构提供了另一种形式的证据。混合专家系统并非通过所有参数的统一通用性来实现广度,而是将每个输入路由到网络的专用子集——为不同任务激活不同的专家。论文作者将此解读为一种结构上的妥协:一个旨在实现通用性的系统,通过内部恢复专精来达成其效果。这是一种基于论证的解读,而非已被证明的定理——这些架构是为计算效率而设计的,它们关于通用性局限性的含义是一种合理的推断,而非明确意图。但这值得注意:最强大的通用系统通过内部执行专精系统本应设计做的事,来达到其性能。
最清晰的历史案例遵循同样的逻辑。AlphaFold通过针对特定任务采用特定架构和训练选择,在蛋白质结构预测上实现了阶跃式突破(Jumper et al., 2021)。其进步来自更窄的聚焦,而非更广的覆盖。论文将AlphaFold作为一个典型例子——并非作为所有专精系统都能实现同等增益的证据,而是作为该机制一个异常清晰的例证。这一机制反复出现:论文指出,人工智能里程碑的历史常常反映出强烈的领域针对性而非广泛能力,即使结果看起来像是通用智能的展示。
三个不同的领域。三种不同的机制。同一个发现。
-–
扩展无法改变什么
如果不提及人工智能研究中最常被引用的观察之一,这幅图景便不完整。萨顿的苦涩教训认为,依赖领域知识的方法始终被扩展计算规模的方法所超越(Sutton, 2019)。表面上看,这似乎使专业化论证变得复杂:如果规模和通用性胜出,那么专业化或许只是在资源受限时的一种有用启发式方法,而随着计算成本降低,这种约束将逐渐缓解。
这一反对意见混淆了两个不同的概念。领域知识指的是手工编码的特征、工程化的先验以及旨在让系统洞察特定领域的规则。苦涩教训针对的正是这一点——而且它这样做是正确的。随着规模扩大,编码了显式领域知识的系统始终被超越。
领域专业化则不同:它指的是决定将系统的资源、架构和训练导向一组有限的任务,而非广泛分布。这不是对某个领域知识的编码,而是关于范围的决策。
该论文精确地划清了界限:
“领域知识有用性的递减与领域专业化的有用性是不同的。随着规模化的推进,要构建一个能进行蛋白质折叠的系统,我们需要了解的蛋白质知识将越来越少;然而,这样的系统仍然受益于专门聚焦于蛋白质。”(Goldfeder 等人,2026)
规模化改变了系统能从数据中学习的方式。它并未改变将资源集中于有限任务集优于将其分散到无限范围这一事实。苦涩教训与专业化论证作用于不同维度——一个描述知识应如何获取,另一个描述系统应指向什么。两者可以同时成立。规模化改变了系统学习的机制;它并未消解那个使适配比广度更有价值的约束。
-–
跨越四种分析传统,相同的模式通过不同的路径显现出来。这并非需要解释的巧合,而是证据本身。
当有限资源面临选择压力时——无论是在优化问题、生态系统、市场还是训练运行中——适配始终胜过广度。具体机制不同。时间尺度不同。选择单位不同。但结构动态相同,并产生相同的结果。
该定理并未在生物学中导致这种模式。生物学也未在市场中导致它。两者都未在机器学习中导致它。它们都面临相同的基本约束:稀缺条件下的性能需要集中。定理在数学上确立的,进化史在经验上证实了,竞争市场在制度上展示了,而机器学习在架构上重新发现了。
专业化不是一种偏好。它是当有限资源遇到执行要求时涌现出的结果。
-–
如果您正在评估领域聚焦如何影响您组织中AI的性能——或者正在内部为专业化战略构建论证——我们很乐意了解您的具体情况。请联系 Dharma AI。
-–
主要来源
- Goldfeder, S., Wyder, M., LeCun, Y., & Shwartz-Ziv, R. (2026). AI must embrace specialization via superhuman adaptable intelligence. arXiv:2602.23643.
来源
-
Wolpert, D.H. & Macready, W.G. (1997). No free lunch theorems for optimization. IEEE Transactions on Evolutionary Computation, 1(1), 67–82.
-
Forister, M.L., Novotny, V., Panorska, A.K., Baje, L., Basset, Y., Butterill, P.T., & Dyer, L.A. (2012). Global distribution of diet breadth in insect herbivores. Proceedings of the National Academy of Sciences, 109(2), 418–423.
-
Futuyma, D.J. & Moreno, G. (1988). The evolution of ecological specialization. Annual Review of Ecology and Systematics, 19, 207–233.
-
Hannan, M.T. & Freeman, J. (1977). The population ecology of organizations. American Journal of Sociology, 82(5), 929–964.
-
Loasby, B.J. (1983). Knowledge, learning and the firm. 引自 Goldfeder 等人 (2026)。
-
Ruder, S. (2017). An overview of multi-task learning in deep neural networks. arXiv:1706.05098.
-
Fedus, W., Zoph, B., & Shazeer, N. (2022). Switch transformers: Scaling to trillion parameter models with simple and efficient sparsity. Journal of Machine Learning Research, 23(120), 1–39.
-
Jumper, J., Evans, R., Pritzel, A., Green, T., Figurnov, M., Ronneberger, O., & Hassabis, D. (2021). Highly accurate protein structure prediction with AlphaFold. Nature, 596, 583–589.
-
Silver, D., Hubert, T., Schrittwieser, J., Antonoglou, I., Lai, M., Guez, A., & Hassabis, D. (2018). A general reinforcement learning algorithm that masters chess, shogi, and Go through self-play. Science, 362(6419), 1140–1144.
-
Sutton, R.S. (2019). The bitter lesson. 取自 http://www.incompleteideas.net/IncIdeas/BitterLesson.html
-–
延伸阅读
-
专业化胜过规模:大多数AI采购决策忽视的战略变量 — 本文的实证与战略补充。当“没有免费午餐”定理从结构上预测了专业化的必要性时,这篇文章则考察了其在实践中表现更优的证据——以及为何它在大多数AI采购决策中仍被低估。
-
文本退化:大多数基准测试未追踪的生产故障模式 — 一种有据可查的故障模式,当语言模型在其有效领域边界之外运行时出现。
-
超越聊天机器人的直接偏好优化 — 偏好优化技术如何扩展到对话式AI之外的专业领域——这是本文所论证的结构性预测的领域聚焦策略的具体实例。
-–
探索 Hugging Face上的Dharma AI ,试用我们的互动演示,下载我们的开源模型,并了解专业AI系统如何在真实企业应用中超越通用模型。