田渊栋谈 RSI：模型自进化，先要跑通研究循环

原始访谈：《178: 与田渊栋聊 RSI：模型自进化如何到来？》

《晚点聊 LateTalk》· 2026 年 8 月 7 日 · 1 小时 29 分 02 秒

嘉宾：田渊栋，Recursive Superintelligence 联合创始人 · 主播：曼祺，《晚点 LatePost》科技报道负责人

一手材料：Recursive：First Steps Toward Automated AI Research · 开源实验产物 · Anthropic Institute：When AI builds itself

RSI 在这场访谈里有两层意思。一层是 recursive self-improvement，也就是 AI 参与改进下一轮 AI；另一层是田渊栋参与创立的公司 Recursive Superintelligence。

田渊栋把这个听起来很科幻的概念拆成了一条具体链路：模型发现问题，提出方案，改代码，跑实验，用可靠指标验证结果，再把有效变化带进下一轮。循环能否持续，取决于每一步能否被执行、检验和复用。

他同时划出边界：当前模型仍替代不了顶尖研究员。递归改进可以先发生，完全无人化还没有到来。

循环开始转起来

RSI 不是新概念。十年前，研究者已经在用 AutoML 和神经网络架构搜索，让机器帮助改进机器。

今年重新变热，直接原因来自 coding agent 和模型能力的提升。田渊栋在访谈中回忆，自己与模型共同推进一项 grokking 研究后，发现许多过去会交给实习生的工作，模型已经能接下来：讨论具体方向、寻找思路、证明定理、写代码、跑实验。

研究者仍要给出问题、判断结果、决定下一步。执行成本下降后，很多离开一线编码多年的研究老手也能重新验证自己的想法。经验不再必须经过一层团队排期，研究反馈变快了。

这个变化让闭环第一次具备实用条件。模型完成一部分研究工作，产出更好的训练方法或基础设施；改进后的系统再参与下一轮研究。递归指的正是这个循环持续向前。

从 AutoML 到 RSI

AutoML 的典型做法，是由人先定义搜索空间、目标函数和可用操作，算法再从限定范围里找出更好的解。

大语言模型多了一层高阶知识表示。它可以读论文、理解代码、讨论架构，还能部分参与问题定义。搜索空间随之扩大，系统有机会自己组织尝试路径，而不只是在研究员画好的格子里移动。

田渊栋认为，这仍然没有覆盖真正困难的研究。

Coding agent 擅长执行一条大致已知的路径。编译器、操作系统组件或既有项目的重建，过程繁重，目标却相对明确。前沿研究经常连问题该怎么表述、结果是否可信、下一次实验该试什么都没有标准答案。

研究品味、从少量证据中抽取结构、判断一个方向是否值得继续，这些能力仍是当前模型的薄弱处。

Anthropic 的自我改进文章也把执行与判断分开：模型已经能完成定义清楚的实验，选择目标、识别死路和判断结果可靠性仍更多依赖人类。田渊栋因此判断，人在研究循环里的位置会升高，递归改进会早于完全自动化。

三个 benchmark，只能证明第一步

Recursive 在 2026-06-11 公布了 First Steps Toward Automated AI Research。公司称，同一套自动研究系统在三个短反馈任务上取得了新结果。相关实验产物已经公开。

这些成绩来自公司自报，适合用来观察系统能做什么，仍需要独立复现。三个任务都具备清楚指标、较低方差和快速实验周期，正好让研究循环反复运行。

NanoChat Autoresearch

任务要求在单张 GPU、固定 5 分钟训练预算内，把小语言模型的验证损失降到更低。指标是 BPB，数值越低越好。

Recursive 报告的结果从此前最佳方案的 0.9372 BPB 降到 0.9109 BPB，降低 0.0263。按达到同等损失所需的时间计算，公司给出的提升是 1.3x。

NanoGPT Speedrun

这个社区已经围绕同一目标优化两年：在 8 张 H100 上，把小型 GPT 训练到 3.28 验证损失所需的时间压到最低。

Recursive 报告把成绩从 79.7 秒缩短到 77.5 秒，快了 2.2 秒。数字看起来不大，起点已经是持续多年优化后的公开记录，继续减少一次内存往返或一次同步都很难。

SOL-ExecBench

这个基准测试 GPU kernel 是否能在保持结果正确的前提下，更接近硬件性能上限。它包含 235 个 kernel 任务，1.0 代表基准给出的理论最优估计。

Recursive 报告的平均 SOL 分数从此前最佳的 0.699 提高到 0.754，相当于把距离 1.0 的差距缩小 18%。

这三项结果覆盖固定算力下的模型质量、训练效率和底层基础设施。它们共同证明，自动研究系统已经能在可快速验收的任务上产生有效改进。

它们还没有回答更难的问题。NanoChat 和 NanoGPT 都是小模型设置，迁移到前沿模型存在明显尺度差距；SOL-ExecBench 有精确评分，开放式研究通常没有这么干净的反馈信号。田渊栋把这些结果称作 First Steps，边界就在这里。

领先会不会无限滚大

RSI 最有诱惑力的推演，是领先者用更强模型改进下一代模型，下一代又把研发速度推得更快，差距持续扩大。

田渊栋认同这个循环可能加速，同时给出了另一个变量：智能提升可能由一段段 S 曲线组成，中间存在平台期。

如果能力沿一条平滑曲线增长，模型更强、算力更多的公司会一直站在前面。递归循环会放大已有优势，后来者很难追上。

如果每一代方法都有上限，局面会改变。团队可以在同一个平台上不断逼近极限，下一次跃迁仍需要新的架构、理论或训练方法。平台期给原创方法留下窗口，算力、数据和能源也会限制单纯扩大规模的收益。

这是一种技术判断和创业假设，还没有成为经验证的规律。它至少提醒行业：递归循环会加速研究，循环本身无法保证永远线性增长。

难题藏在评测、数据与可解释性

一个自动研究系统需要知道自己的改动有没有真的变好。分数太模糊，系统无法选择下一步；分数有漏洞，系统就可能学会 reward hacking，找到高分捷径，却没有完成真正目标。

Recursive 的公开说明提到，系统会复用过去实验、组合有希望的分支，并在接受改进前检查方差和奖励漏洞。三个 benchmark 的共同点，正是反馈快、指标清楚、评测可以加固。

开放式研究缺少这种便利。

田渊栋在访谈中列出了几项仍在探索的条件：什么数据能教会系统做研究，如何降低大量实验带来的算力开销，怎样让评测不被钻空子，以及如何理解模型为什么得到某个结果。

他把可解释性放在能力与安全的交叉点。理解模型学到了什么、哪些机制真正起作用，既可能帮助系统找到更好的改进，也可能让人类更早识别危险路径。这是他的长期研究判断，当前技术还没有给出完整答案。

完整的递归自我改进还会放大控制问题。系统越能参与构建后继系统，验证、监控和约束就越重要。Anthropic 的文章也把这一点列为核心风险：当迭代速度超过人类验证速度，错误和失配可能一同累积。

人还在循环里

田渊栋描述的近期形态，是人和 AI 共同跑研究循环。

模型承担越来越多实现、搜索和实验工作。人类继续选择值得研究的问题，提供评判标准，检查结果，识别表面优化，并在证据不足时改变方向。执行被压缩后，人的工作层级升高，判断质量变得更关键。

这也解释了他为什么反复强调 hands on。研究者长期远离代码和实验，容易把“难”“很难”和“当前方法根本做不到”混在一起。亲手使用模型、查看失败、跑过验证，才能知道瓶颈位于工程、评测、数据，还是理论。

RSI 团队的组织方式也服务于这个反馈速度。田渊栋偏好小而扁平的核心团队，让提出想法的人尽快看到实验结果。这个选择来自他的个人经历，不能直接推成所有研究组织的通用定律。

研究最终会变成科学

访谈后半段，田渊栋谈到一个更长期的目标：AI 研究今天仍有许多经验主义成分，机制常常说不清楚；他相信这个领域最终会建立起可解释、可推演的科学结构。

他用炼金术走向化学、天文观测经过开普勒再走到牛顿的过程作类比。大量实验先积累现象，后来的理论把零散规律连成体系。下一位完成这种统一的人可能是人类，也可能是 AI。

当 AI 能持续发现新知识，人类研究者仍有两种乐趣：理解发现如何产生，以及欣赏结果里的结构与美感。

今天判断一个系统有没有接近 RSI，可以先看三件事：

1. 它能否根据实验结果自己提出下一步，而不只执行固定工作流。
2. 它能否通过可靠、抗作弊的验证确认进步，而不只把单次分数刷高。
3. 它能否把方法迁移到新问题和更大尺度，而不只优化一个 benchmark。

Recursive 当前公开的结果落在第一步：短反馈研究循环已经能够跑起来。距离系统自己选择重要问题、发明新方法、跨尺度验证，还有很长路径。

这场访谈的价值，也正在于把 RSI 从一句加速叙事还原成具体工程问题。循环已经开始转动，研究判断、验证能力和新理论仍决定它能走多远。