先看证据
突破消息背后,问题是机器为何愿意继续找
以《AI Is Getting Good at Math. Here’s Why.》为题的材料,讨论了 OpenAI 和 Anthropic 近期被报道的数学研究进展,试图回答一个比“模型会不会做数学题”更难的问题:哪些开放问题更可能被模型推进?材料举出的例子包括 OpenAI 内部模型为自 1946 年悬而未决的单位距离猜想找到反例,以及随后出现的其他开放问题结果。这些例子应被视为材料所报告的进展,而不是对每项成果都已独立核实的背书。
这个问题值得技术负责人读,是因为研究型数学与竞赛题的差别不只是难度更高。研究者往往得先判断一条思路值不值得投入数周或数月,而模型可以把更多尝试交给并行搜索和计算。能力变化的核心,因而可能不是机器突然拥有了人类式直觉,而是探索一条思路的成本与耐心门槛发生了变化。
数学难题不是单个答案,而是一串提示
材料借数学家 Timothy Gowers 对单位距离问题的评论,提出一个有用但并非可直接计算的难度模型:解题需要一串提示,提示之间还要投入推导工作。Gowers 给出的提示链包括先寻找反例、推广已有的最佳构造,再考虑次数逐步增加的数域,同时限制所用素理想的范数。他用 2^k+t 表示这种复杂度,其中 k 是提示数量,t 是把提示发展成结果所需的工作量。
这个表达式的价值不在于给难题打分,而在于指出突破的结构:一个提示可能改变问题的表述,让此前看不见的后续选择出现;它只有放在正确顺序里才有用。材料还提到,数学家 Jacob Tsimerman 曾探索相关方向,却因缺少进展信号而停下。对研究者来说,这不是胆怯,而是现实的资源分配:如果早期工作看不出方向是否有希望,继续投入的门槛就会升高。
验证器把算力变成反馈,但不能替人判断方向
模型搜索之所以可能在数学上奏效,关键之一是部分候选结果可以核验。形式化证明系统能检查证明步骤是否符合规则,某些计算问题也能通过程序检验候选答案。这样,系统可以生成多条尝试,淘汰已完成但不成立的结果,再把计算资源投向其他路径。它改变的是搜索循环:生成、检查、修正或重试,而不是单次生成就期待答案正确。
但验证器只在论证走到可以检查的阶段时才有用。它能指出一个完成的证明是否成立,却不能告诉研究者一条半途中的思路是否值得继续,也不能自动提供下一次概念跳跃。材料所述的并行探索与失败路径记录,能让后续尝试避开已知死路;它们仍然无法把“这条路可能有前途”变成可靠的早期信号。问题分支越多、所需洞见越密集,蛮力搜索越容易遭遇边际收益递减。
不同系统的成绩,不能合并成一种能力
现有证据显示,可验证性是重要条件,却不是数学能力的总解释。2021 年发布的 MATH 基准包含 12,500 道竞赛数学题,当时的研究指出,单靠扩大模型规模仍不足以解决这些题目。另一条路线是 AlphaProof:它在 Lean 等形式系统中搜索证明,并利用强化学习改进搜索策略。相关论文报告约 80,000 TPU 天的训练计算量,也报告在特定留出基准上,增加推理时搜索计算可以继续提升表现。
这些数字提供的是系统成本和特定测试设置的证据,不是所有模型都能达到的通用保证。FrontierMath: Open Problems 的试点版包含 14 道开放研究题,且题目经过筛选,要求候选答案可程序化验证;其介绍页报告,初始评测的六个模型都没有解出超过 2%。这既说明开放研究题仍然困难,也提醒我们:针对可验证题目建立的基准,不能代表数学研究的全部范围。竞赛题、形式化证明搜索和原创研究结果,衡量的是不同环节。
部署判断应从反馈条件和成本开始
对技术团队而言,值得尝试的场景不是笼统的“让模型做研究”,而是某类任务能否形成闭环:候选结果是否有可靠检查方式,失败能否转成后续搜索可用的信息,计算成本是否低于人工反复试错的成本。若一项工作缺少明确验证器,专家就仍须承担大量审查;若路径需要多次新的概念跳跃,增加并行尝试也未必能带来同比例的进展。
因此,较稳妥的评估方式是挑选研究者不愿立即投入数月、但能清楚定义候选结果与检查标准的方向,让模型先探索并记录成功和失败的路径,再由专家判断是否深挖。这里的收益不是让模型替代研究判断,而是把专家时间从机械试错中释放出来。边界也必须一并计入:搜索成本会转移到算力,验证器不能评估尚未完成的想法,而基准成绩不能替代对证明正确性、研究价值和原创性的专家审查。