为什么AI能解千禧年题,但还是做不到RSI

精选提供官方认证的开云APP下载渠道,确保软件安全无篡改。内容,开云娱乐官方入口|APP下载与网站指南与你一同发现更多精 - 开云娱乐官方入口|APP下载与网站指南 精选提供官方认证的开云APP下载渠道,确保软件安全无篡改。内容,开云娱乐官方入口|APP下载与网站指南与你一同发现更多精 - 开云娱乐官方入口|APP下载与网站指南

近段时间,若只看理论数学与物理领域的动态,外界或许会以为 OpenAI 与 Anthropic 的最新模型在科研领域势如破竹,令顶尖学者难以招架。

10月27日,OpenAI 发布三篇重磅论文,一口气打通了四维杨-米尔斯(Yang-Mills)与量子色动力学(QCD)存在性证明中停滞数十年的重整化群路线,攻克了全维度挂谷猜想(Kakeya Conjecture)与局部平滑猜想(Local Smoothing Conjecture)。

最引人注目的成果,是证伪了理论计算机科学的核心基石之一——指数时间假设(ETH,Exponential Time Hypothesis)。

这些曾被视作人类智力巅峰、甚至属于千禧年大奖难题级别的挑战,正被 AI 逐一攻克。按常理,很难想象能解开人类最难数学与物理谜题的 AI,会是一个缺乏创造力与底层科研能力的系统。

然而,一旦将视线从纯数学转向另一面,景象截然不同。

在当下备受关注的 RSI(递归自我改进,Recursive Self-Improvement,简称“RSI”)实践中,许多一线研究观察到,模型自身发现的改进难以形成预期中的指数级增长,往往在初期摘掉几个明显的低效实现后便迅速收敛、触顶。

就连在这条路上走得最远的 Anthropic,也在其报告中多次坦承,当前模型的研究品味(research taste)相当有限。

若再看向生物、化学、生态、地球科学等更广泛的经验学科,AI 似乎普遍难以承担起框架性创新的重任。

这种巨大的反差,究竟从何而来?

一种直观的解释指向数据与训练环境的差异:数学与高度数学化的理论物理(如广义相对论微扰、杨-米尔斯场论)本质上闭合在符号与公理体系内,文本语料本身便完整承载了它们的世界规则。而一旦进入真实的物理、生物等经验世界,仅靠静态论文文本的投喂,模型根本无法建立起对外部物理过程的直观想象力与动力学直觉。

这无疑是一个有力的想法,但仅此而已吗?

当我们把近期 AI 攻克科研难题的具体路径,与一系列关于 AI 科研能力的最新研究放在一起解剖时,一种基于认知模式的新解释或许会浮现。

作为在 RSI(递归自我改进)和 AI 科研自动化领域推动最深入的机构之一,Anthropic 对当前前沿模型科研上限的观察极具参考价值。

在 2026 年 10 月 20 日发布的论文《Automating ML for Science: Can Frontier Agents Climb Scientific Hills in the Wild?》中,Anthropic 的研究团队构建了一个名为 AGENT4SCI 的长周期评测基准,专门考察当前最强的编程智能体(Coding Agents)在真实科学机器学习项目中的科研表现。

以往针对 AI 科研能力的测试,大多局限在计算机科学内部(例如给定一个高度规整的 CIFAR-10 或 NanoGPT 模板代码去刷分)。而真实科学领域的机器学习项目完全是另一番景象:问题横跨天体物理、蛋白质工程、地质岩相、生态碳循环等不同学科,代码库往往是科研人员随手写就的实验脚本,且很多时候提升指标需要用到具体的学科知识。

这次,Anthropic 团队将 Agent 放入这片真实科研的荒野。他们从 NeurIPS 2025 等顶会和专业期刊的数百篇论文中,通过四轮严苛筛选(淘汰率高达 98%),最终保留了横跨 11 个科学领域的 20 个基准、共 25 个具体任务。

这些任务包括暗物质信号时序去噪(TIDMAD)、蛋白质深层突变扫描适应度预测(ProteinGym)、三维 RNA 逆向设计(gRNAde)、火星地貌分割与火山锥检测(Mars-Bench)、全球森林碳通量 40 年预测(CarbonGlobe)、全拓扑电力系统潮流计算(PFDelta)、质谱分子检索(MassSpecGym)等。

作者设计了一套称为 自动科学爬山(Automated Scientific Hill-Climbing) 的系统。他们给智能体提供原论文、代码库、数据集以及目标评测指标。每个智能体在每个任务上分配 8 张 H200 GPU 和 12 小时(部分扩展实验为 72 小时) 的运行预算,全程没有任何人类干预。

参测的是当时最强的四个前沿智能体:Claude Opus 4.6、Claude Sonnet 4.6、Codex (GPT-5.4) 以及 Gemini 3.1 Pro。

单看分数,前沿智能体的表现相当亮眼。在全部 20 个基准上,智能体都在无人工干预的情况下超越了论文已发表的最佳基线。其中 Claude Opus 4.6 平均相对提升了 10.4%,Claude Sonnet 4.6 提升了 9.6%,Gemini 3.1 Pro 提升了 6.8%,Codex (GPT-5.4) 提升了 4.4%,且在三阶段隔离协议下没有任何一次运行被查出作弊。

然而,当研究团队拆解这上百个 12 小时的实验轨迹,统计智能体在代码中做了哪些改动时,真相浮出水面。这些提升几乎全部来自常规的机器学习工程套路,而非科研层面的洞察。

在默认状态下,智能体所做的事情无外乎两类。

第一类是局部超参数微调。在 Claude Opus 的所有尝试中,有 56% 是在调学习率、换余弦退火调度(cosine annealing)、改权重衰减(weight decay)或延长训练轮数。Gemini 和 Codex 在这上面的占比也分别高达 48% 和 44%。

第二类是更大范围上的套路化模块组合。例如加深加宽原有网络层数(Opus 有 44% 的尝试属于此类)、改一下池化方式(pooling)、加上常规的数据增强,或者将原论文中较老的视觉骨干网络直接替换成更大的现成骨干(例如在火星火山锥检测任务 Mars-Bench 上,Opus 将原代码的 RetinaNet 替换成现成的 Faster R-CNN,将 mAP 从 16.5 提升至 30.4),最后再将十几个不同随机种子跑出来的模型做集成(Ensembling)。

这种“换骨干 + 改数据增强 + 模型集成”的方式,比单纯用 Optuna 搜索几个超参数数字要强得多(论文附录专门做了纯超参数搜索消融实验,证明只调数字只能获得默认智能体一小部分收益)。

但即便如此,整体依然是在文献中早已熟知的通用深度学习组件库中做排列组合。

为什么只做这种相对浅表、且缺乏研究品位的操作?研究团队在轨迹分析中总结出当前智能体在默认状态下的三大通病。

首先,是新颖度误判(Novelty miscalibration)。 智能体对“什么是创新”的判断与人类完全脱节,经常在推理日志中将极其普通的标准操作吹捧为重大突破。论文明确举例提到,Claude Code 在多次运行中都将“改用余弦学习率调度”描述为一个极具创造性的想法(creative breakthrough),但这在深度学习中早已是沿用了十来年的常识。

其次是探索坍缩(Exploration collapse)。 即便智能体在开局阶段列出了几个不同方向的想法,一旦它在第一个小时内发现某个小改动(例如换了一个激活函数)让验证集指标涨了一点点,其探索视野就会迅速坍缩,将剩下的十几个小时全部用来围绕这个点扫随机种子、微调学习率和做模型融合,彻底放弃探索本质上不同的方法。

此外,与创新能力无关但影响研究效率的是算力利用率低下(Resource under-utilization)。 明明手握 8 张 H200 GPU,智能体却经常串行跑实验导致显卡闲置,或者像 Codex 那样在第一个小时内写好一个包含上百组超参数扫描的长脚本,提交后便彻底停手,干等 11 小时直到脚本跑完,期间不做任何结果分析与方向调整。

为了解决这三个问题,限制 AI 过早集中在有限的局部搜索上,Anthropic 团队给智能体加装了三个写死规则的插件技能(Plug-in Skills,以 Markdown 指令和钩子脚本的形式注入)。

第一个插件是科研构思(Research ideation)。 在任务刚启动、智能体还未看到任何一行代码之前,先强行赋予它一个“狂热科研科学家(crazy research scientist)”的人设,规定它极其鄙视调超参数,只对颠覆性突破感到满足。同时,严禁主智能体直接去读原仓库代码(以防思维被原代码锚定),而是强制派出 4 个并行的子智能体去检索和撰写文献综述。

其中两个子智能体(1A/1B)专门调研该科学任务底层的领域数据结构、物理规律及领域专属建模范式。另外两个子智能体(2A/2B)专门调研整个 AI 界最新的预训练大模型与 SOTA 训练方法。调研结束后,智能体必须将实验计划分为高风险高回报的 Tier-1 实验和稳妥的 Tier-2 实验,并回答三个校准问题:“领域专家会对这些想法感到惊讶吗?”、“有没有任何超参数调整或模型集成伪装成了 Tier-1 实验?如果有,立刻降级并替换!”

第二个插件是实验管理(Experiment management)。 写死规定第一轮实验必须全部运行 Tier-1 的大胆创新方案,并且必须将 8 张 H200 全部占满。严禁在第一轮复现基线、严禁在基线上调参、严禁跑多随机种子集成。

第三个插件是每小时定时自检(Scheduled checklists)。 通过工具调用钩子,每隔一小时强制打断智能体,让它公开回答一系列诊断问题,例如:“我是在设计需要科学推理的创造性实验,还是又在调超参数并假装它很新颖?”、“当实验失败时,我是诊断了根本原因并做针对性转向,还是直接退回到了最省事的保底套路?” 一旦发现自己又滑向了局部调参,必须立刻停止并重新开启新方向的探索。

加上这套严厉的规则约束后,效果立竿见影。Claude Opus 4.6 的平均相对提升从 0.4% 翻倍到了 20.1%(20 个基准中有 18 个提升),Codex 从 4.4% 提升到了 8.1%。

更重要的是,在一些任务上,智能体真的展现出了比之前高得多的、更近似于科研的洞察。

第一个案例是全球森林碳通量预测。原论文的基线采用自回归模型(DeepED),像滚雪球一样一步步往后滚动预测 40 年的碳通量。没有插件时,Opus 将原有的自回归模型训练了 14 个不同权重做集成,耗费了 49 个 GPU 小时,将误差降低了 14.7%。而加上插件、做完文献调研后,智能体意识到 40 年跨度的自回归滚动预测不仅推理慢,而且存在严重的“曝光偏差(exposure bias,即前一步的微小预测误差会在后几十步中被不断放大)”。

于是它直接推翻了原代码的自回归框架,从序列生成文献中搬来了非自回归(non-autoregressive)Transformer 架构,一次前向传播直接输出完整序列。结果训练耗时从 49 GPU 小时骤降到 6 GPU 小时以内,推理速度更是提升了约 500 倍,同时测试集误差降幅从 14.7% 大幅跃升至 35.3%。

第二个案例是电力系统全拓扑潮流计算(PFDelta 及 3 天扩展版 PFDelta 2000)。这个任务要求用图神经网络(GNN)预测电网各节点的电压和相角,评测指标是功率平衡损失(Power Balance Loss, PBL)。加上插件后,Opus 的提升从 64.4% 达到了 91.0%。

这是因为智能体从领域背景中看到,评测指标 PBL 本身就是由电学中的基尔霍夫定律(Kirchhoff’s laws)推导出来的代数残差,计算它根本不需要真实标签(属于物理自监督目标)。于是它不再用传统的均方误差(MSE)作为主损失,而是直接围绕 PBL 重构了训练目标,并在推理阶段将 GNN 的预测输出作为交流潮流方程(AC power-flow equations)的热启动初值(warm start),通过物理方程迭代将残差进一步压低到接近零。

而在随后的 3 天(72 小时)长周期实验中,它还设计出了一个非常精巧的桥接方案:以 GNN 预测作为 GPU 密集型牛顿-拉夫逊(Newton-Raphson)求解器的热启动初值,并针对不同电网样本的功率失衡严重程度,发明了一套 条件感知的自适应步长策略,动态分配 0 至 4 步,再配合多级阻尼与 Levenberg-Marquardt 混合修正,最终在延迟预算内将物理误差砍掉了 99.5%。

在这个例子里,无论是将序列建模的非自回归范式搬到生态碳预测上,还是在图网络与牛顿-拉夫逊数值求解器之间设计自适应步长桥接器,看起来都已经非常有“科研味”了。

但耐人寻味的是,Anthropic 的研究团队在论文中对这些成果给出了一个极其克制的评价:这些依然只是“低垂的果实”。

在绝大多数基准上,提升依然是边际性的、由工程驱动的。

为什么连这样漂亮的改进,作者也认为是“低垂的果实”?

因为如果将科学机器学习项目的代码逻辑由浅入深分为四层,就能清楚地看到默认状态与文献检索插件(1A/1B + 2A/2B)到底帮智能体改到了哪一层,又在哪里撞上了铁板。

顺着这张表剖开去看,AI 展现出的“科研洞察”完全可以解释为在基础模式之上更广阔的组合与套用。

没有插件时,智能体一上来先读原仓库代码,思维被原代码的旧结构死死锚定(即基线代码锚定效应,Baseline Anchoring),只能在自己预训练记忆最熟悉的第 1 层(调参)和第 2 层(通用模块拼凑)里打转。

而加上插件后,通过强制先做四路文献检索,智能体将检索池从“通用炼丹套路”扩大到了“该细分学科的专业套路库(第 3 层)”。

例如在电力潮流计算文献中,用基尔霍夫定律做物理损失(PINN)、用神经网络给牛顿-拉夫逊法提供热启动初值,原本就是该领域的经典路线。

在长序列预测文献中,用非自回归架构消除曝光偏差,也是写了十几年的标准方案。

当然,这并非说智能体完全没有任何原创性。AI 模型非常擅长“搭桥”,例如在 PFDelta 2000 上,为了将 GNN 热启动和 GPU 牛顿求解器塞进严苛的延迟预算里,它能够现场设计出那套 0~4 步条件感知自适应阻尼策略。

因此,从 Anthropic 的详尽实验中,可以提炼出当前 AI 在科研中最擅长的三种常规模式:

  1. 在具体领域内快速试错所有潜在的参数与模块选择组合(对应第 1、2 层)
  2. 跨领域结构迁移(将 A 领域现成的成熟建模范式搬到 B 领域,对应第 3 层前半段)
  3. 制造桥接的钥匙(在两个已知模块或明确约束之间,现场捏造一个适配算子将两边接通,对应第 3 层后半段)

只要一个科学基准留有这三板斧能发挥作用的空间(即原论文作者在发布数据集时没用上最新的骨干、没将领域已知的物理方程写进损失、或者用错了自回归范式),AI 就能迅速摘下这些“低垂的果实”。

然而,一旦遇到原基线已将本领域常规方法打磨得很扎实、无法靠跨界搬运现成套路解决的硬核科学问题,这三板斧就立刻失灵了。

在 Anthropic 找到的 25 道题里,在蛋白质突变适应度预测 ProteinGym 上,基线 Kermut 本身就是人类专家在公开榜单上精心打磨的顶尖方法,结果默认 Opus 仅提升 0.3%,加上全套科研插件后也只有 0.4%。Codex + Skills 更是一点没涨。而在三维 RNA 逆向设计 gRNAde 上,加上插件后的 Opus 不仅没涨,反而跌了 0.6%(Codex + Skills 甚至跌至 -6.1%)。

而在 3 天(72 小时)长周期实验中,一旦智能体在前十几个小时将文献综述中搜到的几道“高级菜谱”试完,它也基本不会针对实验残差去做更深层的科学推演。例如 Opus + Skills 在 PFDelta 2000 的后 60 个小时里,重新退化回连续 6 轮微调学习率。Codex + Skills 在 CarbonGlobe 上前 40 小时毫无进展后,更是彻底退回第 2 层的暴力拼凑,将 Informer、PatchTST、iTransformer 等 80100 种现成时序架构全训了一遍,再用贪心算法拼凑了 277 轮集成,导致测试时需要同时跑 6080 个模型,验证集看似涨了 37%,在隔离测试集上却因严重过拟合暴跌了 25%。

同期,10 月 28 日,斯坦福大学(Percy Liang、Andrea Montanari 等)、耶鲁大学、纽约大学及加州理工学院等机构的 30 余位学者联合发布了 After42 项目《Can AI Propose Interesting Research Questions?》,也提供了类似的参照系。

在这项研究中,团队测试了前沿模型(GPT 6 Astra、GPT 5.6 Sol、Claude Opus 5.5 等)能否在数学、统计、理论计算机和物理领域提出让人类专家觉得“真正有趣、值得投入精力研究”的新问题。

After42 团队发现,哪怕给模型喂满领域文献,如果让它单次直接提出研究问题,虽然 90% 能通过新颖性检查、77% 能通过难度检查,但 人类专家认为真正有趣的比例只有可怜的 3%。

为了破局,团队设计了一套“以解题驱动提问(Solve-Refine-Critique)”的智能体工作流。先让解题智能体(Solver)去强行求解初始的平庸问题,在推导和计算中暴露出反例、盲区或局部余项,再顺着这些发现去修改问题,最终将专家认可的有趣率从 3% 拉升到了 33%。

但 After42 团队对最终生成的数学问题做了溯源分类:他们将跨界组合(A+B)、条件弱化(A-B)和已知对象的下一步推进(A+1)统称为基于已知工作的直接组合

开云娱乐官方入口|APP下载与网站指南
开云娱乐官方入口|APP下载与网站指南
开云娱乐官方入口|APP下载与网站指南
开云娱乐官方入口|APP下载与网站指南
开云娱乐官方入口|APP下载与网站指南
开云娱乐官方入口|APP下载与网站指南
开云娱乐官方入口|APP下载与网站指南
开云娱乐官方入口|APP下载与网站指南
开云娱乐官方入口|APP下载与网站指南
开云娱乐官方入口|APP下载与网站指南
开云娱乐官方入口|APP下载与网站指南
开云娱乐官方入口|APP下载与网站指南
深色 浅色
开云娱乐官方入口|APP下载与网站指南科技有限公司简单 · 可靠 · 贴心电话:+86 176 8395 5859邮箱:[email protected]深圳市南山区科技园北区691座