AI能解千禧年难题，为何做不到RSI？两类能力深度对比

一、对比背景：一边是皇冠明珠，一边是触顶收敛

近期，某前沿AI研究机构一次性发布三篇重磅研究：打通了四维杨-米尔斯与量子色动力学（QCD）存在性证明中停滞数十年的重整化群路线，攻克了全维度挂谷猜想与局部平滑猜想，并证伪了理论计算机科学的基石假设之一，指数时间假设（ETH）。这些曾被视作“人类智力皇冠上的明珠”、千禧年大奖难题级别的硬骨头，正在被AI接连啃下。

但只要把视线从纯数学移开，画风就截然不同。在当下最受关注的RSI（递归自我改进，Recursive Self-Improvement）实践中，许多一线研究都观察到：模型自己发现的改进很难形成预期中的指数级增长，往往在初期摘掉几个明显的低效实现之后，就迅速收敛、触顶。在这条路上走得最深的头部机构，也在研究报告中多次坦承，当前模型的研究品味相当有限。再看生物、化学、生态、地球科学等更广泛的经验学科，AI同样难以承担框架性创新的重任。

一个能解开人类最难数学谜题的系统，为何在同一时期的自我改进上表现平平？本文把这两类能力作为对比对象，系统拆解其差异来源，并落到“哪些环节该让AI主导、哪些该由人把住”的选型问题。

二、对象定义：本文在比什么

对象一：封闭形式系统中的AI科研能力。 指AI在纯数学与高度数学化的理论物理（如广义相对论微扰、杨-米尔斯场论）中做研究的能力。这类领域的世界规则完备地编码在公理与推理规则之内，论文、教材、证明库等文本语料本身就承载了全部规则；问题通常良定义，结论可以被机械检验。

对象二：开放经验世界中的AI科研能力。 指AI在RSI以及生物、化学、生态、地球科学等经验学科中做研究的能力。这类领域的规则是外部物理、化学、生物过程的涌现结果，静态文本只记录“人类观察到了什么”，并不承载“过程如何运行”；研究不仅要求解题，还要求提出值得解的问题，验证依赖真实实验或长期反馈。

RSI是对象二的极端形态：让模型参与改进自身的训练流程、数据配方或基础设施，期望形成“改进—更强—再改进”的复利循环。它同时具备目标函数模糊、验证标准复合、反馈周期长三个难点，因此成为检验AI科研上限的天然试金石。

三、相同点：同一副技术底座

两类能力并非来自两套系统，而是同一批前沿模型在不同环境中的两种表现，共同点很多：

1. 基础能力同源：都依赖长上下文理解、代码生成与调试、工具调用、多步规划等基础能力；
2. 工作循环相似：都表现为“检索上下文—生成假设—搜索方案—执行—检验”的迭代过程；
3. 都受益于推理投入：加大推理阶段的搜索宽度（多试几条证明路径、多跑几组实验参数），在两类任务上都能换来收益；
4. 同属科研自动化范畴：都在改变科研的执行密度，把研究者从机械环节中释放出来；
5. 短板也一致：都会受幻觉、上下文遗忘、长程规划漂移影响，都需要外部约束（验证器、评审、测试）兜底。

正因底座相同，反差才更值得深究：差异主要不在模型，而在环境。

四、核心差异：五个维度

4.1 世界规则的载体：文本内 vs 文本外

数学与理论物理本质上是闭合的符号体系：公理、推理规则与已证定理构成的“宇宙”全部落在文本里，对模型而言“见过语料”与“见过世界”高度等价。而经验世界的规则在纸面之外，仅靠静态论文投喂，模型无法建立对外部物理过程的直观想象力与动力学直觉——它掌握的是“人类报告了什么”，而不是“过程如何运行”。这是最直观的数据环境差异。

4.2 验证回路：机械可判 vs 代价高昂

数学证明的检验是机械的：形式化证明助手或审稿人可以逐步核查，验证快、便宜、确定、可无限次重放。经验学科的假设检验则依赖真实实验：周期以天或月计、成本高、噪声大、不可随意重放。RSI更特殊——“模型变好了”并不存在单一可计算的目标函数，评测本身还要防数据泄漏、防基准过拟合、防代理指标漂移。验证回路的质量直接决定AI从反馈中学到多少：在可机械验证的领域，模型可以在回路里高频自我纠错；在验证昂贵的领域，回路被迫拉长、信号稀疏，模型只能靠先验外推，错误会复利累积。

4.3 反馈信号的密度、信噪比与稳定性

封闭系统中每一步推导都有明确对错信号，错误立即可见，结果可复现——同一证明可以反复重跑。开放系统中一次实验失败可能来自假设错误、操作误差、随机方差或三者叠加，归因本身就需要品味；长周期任务的结果方差大，对环境与随机性敏感。信号稀疏且有方差的环境，恰恰是统计学习范式的弱项。

4.4 搜索空间的结构：良定义难题 vs 未定义问题

千禧年级难题虽然极难，但问题是良定义的：输入输出清晰、搜索空间有边界、“找到了”可被确认，呈现出“难解易验”的结构，恰好是搜索式方法的甜区。框架性创新则要求先回答“什么问题值得问、哪个方向有前景”，搜索空间本身未定义，没有现成目标函数可优化。这也解释了RSI的触顶曲线：初期摘掉的“明显低效实现”落在良定义子空间（代码层面的低垂果实），一旦深入到训练配方、数据策略、架构方向等层面，问题退化为开放空间搜索，收益自然收敛。

4.5 认知模式：技巧插值 vs 研究品味

把近期AI攻克科研难题的具体路径，与近期关于AI科研能力的一系列评测研究放在一起解剖，一种基于认知模式的解释浮现出来：在封闭系统里，模型做的是高精度“技巧插值”，证明语料的分布覆盖了大量技巧组合，难题的解往往是已知技巧的非常规拼接，模式补全就能命中。而经验学科要求外推：对未见过程的直觉想象、对方向价值的长期判断、在证据不足时敢不敢下注。这类隐性知识在语料中显式信息稀薄，难以通过文本对齐获得。头部机构的评测工作也给出旁证：让最强的编程智能体在真实科学机器学习项目里长周期工作，它们能复现、调参、爬山，但在选题与方向判断上表现平平，可以概括为“能爬科学的小山，难以修通往新山峰的路”。

五、对比表格

维度	封闭形式系统科研（数学/理论物理）	开放经验世界科研（RSI/经验学科）
世界规则载体	公理与推理规则，文本完备承载	外部物理/生物过程，文本仅记录结果
验证回路	机械可判、快速、无噪声、可重放	依赖实验或评审，慢、贵、有噪声
反馈信号	稠密、即时、确定	稀疏、高方差、归因困难
问题定义	良定义，边界清晰	常需自行定义问题，依赖研究品味
搜索空间	有界，难解易验	开放，无明确目标函数
结果稳定性	可复现，可反复重放	方差大，对环境敏感
典型失败模式	证明走不通（可察觉）	触顶收敛、局部最优、代理指标漂移
人类角色	出题与审核	问题定义、方向判断、实验设计
AI可介入深度	深，可主导迭代	浅到中，以辅助为主

六、从评测看真实表现

近期某头部AI研究机构发布的一篇评测论文具有较高参考价值。该工作构建了面向真实科学机器学习项目的长周期评测基准，把包含文献调研、代码复现、实验迭代、结果整理的完整研究循环交给当前最强的编程智能体，观察其数天到数周的自主研究行为。结论与一线观察相互印证：

• 执行面：在复现、工程化、参数扫描等“有参照、有指标”的环节表现可靠；
• 判断面：在“接下来做什么实验、哪个假设更值得信”的节点上研究品味有限，容易陷入局部优化或在浅层方案间摇摆；
• 稳定性：长周期任务中存在规划漂移与上下文退化，需要外部检查点约束。

用优化理论做类比：RSI初期梯度大、下降快；进入平台期后，突破需要跳出当前盆地，而“往哪个方向跳”恰恰是品味问题。初期收益来自良定义子空间的低垂果实，触顶则标志着回路已进入需要开放性判断的深水区。

七、典型场景选择

场景特征	典型任务	建议协作模式
验证器完备	形式化证明、带测试的代码、有回归指标的调优	AI主导迭代，人工审核关键节点
有参照结果	复现类科研任务	AI执行为主，人工比对与偏差归因
验证依赖专家评审	理论综合、方案论证	AI生成备选与证据汇总，人工拍板
无明确指标	框架性创新、方向选择	人工主导，AI做类比检索与反例枚举
目标函数复合	RSI类自改进闭环	拆分为可机器验证的子目标，分层设触顶检测

八、选型建议（条件化）

1. 先给任务分级，再比较模型强弱：同一模型在有验证器的任务上可能表现“惊人”，在开放任务上可能“平庸”，第一步是评估自身任务的可验证性等级。
2. 评审与实验资源有限时：优先把AI固定在有自动判定信号的环节，把稀缺的人类品味配置在假设选择与方向判断上。
3. 必须让AI进入经验任务时：为其构造交互通道，仿真环境、离线实验数据回流、小规模在线实验，把“静态文本世界”部分转化为“可交互世界”，缓解数据环境劣势。
4. 对自改进系统保持警惕：改进度量一旦成为优化目标，就可能与真实价值脱钩；应组合多指标，并保留人工抽检。
5. 不要外推基准分数：封闭系统基准的高分不能作为开放科研承诺的依据，立项或采购前应在自身任务分布上做长周期试点。

九、工程化落地与注意事项

把上述人机分工固化为平台能力时，通常涉及这些通用组件：模型推理服务、长任务编排与断点恢复、实验数据与产物的对象存储、版本与可复现管理、指标看板与告警、权限与审计。在百度智能云等云平台上，均有对应的通用产品类目（模型服务、容器平台、对象存储、日志与监控、身份认证等）可供组合搭建，评估重点是长周期任务的稳定性、成本控制与结果可复现性。

示意性任务路由伪代码：

function choose_collaboration_mode(task):
    if has_machine_verifiable_checker(task):   # 形式化/测试/回归可判定
        return "AI主导迭代, 人工审核关键节点"
    elif verifier_is_expert_review(task):      # 依赖专家评审
        return "AI生成备选与证据, 人工拍板"
    else:                                      # 依赖真实实验或长期反馈
        return "AI广度搜索 + 实验/仿真数据回流 + 里程碑切分"

RSI类回路的触顶检测示意：

while budget_remaining():
    proposal = agent.propose(current_system)
    if verifier_can_decide(proposal):
        if gain(proposal) > epsilon:
            apply(proposal)
    else:
        record_undecidable(proposal)      # 验证不可判, 转人工处理
    if recent_gain_trend() == plateau:    # 连续多轮收益低于阈值
        escalate_to_human("重新定义问题或引入新数据通道")
        break

迁移与使用注意事项：

• 从“验证明确的任务”扩展到“经验任务”时，不要复用同一套自动通过标准，需重新设计评审协议；
• 长周期自主研究中建立检查点与人工抽查节奏，防止规划漂移；
• 保留完整的实验产物与决策日志，保证可复现与可审计；
• 对“AI发现的改进”做归因分析，区分浅层工程优化与实质性创新，避免把前者外推为后者；
• 评估总成本时计入验证成本：在经验任务中，验证往往比生成更贵。

十、总结

AI能解千禧年难题却做不到RSI，两者并不矛盾——它们是同一模型在两种环境中的投影。在封闭形式系统里，规则、技巧与验证全部在文本内闭环，模型的模式补全能力可以充分兑现；在开放经验世界里，规则在纸面之外、验证昂贵、问题本身尚待定义，短板便从“解题能力”转移到“研究品味”。对从业者的启示同样清晰：按可验证性给任务分级，让AI主导有判定信号的环节，让人类把住问题定义与方向判断，并为经验任务补建交互式数据通道与触顶检测。理解这条能力边界，比追逐单一基准分数，更接近“用好AI做科研”的答案。