新浪新闻客户端

前OpenAI研究员改口:超级AI研究员可能明年就来!

前OpenAI研究员改口:超级AI研究员可能明年就来!
2026年11月16日 00:22 新浪网 作者
avatar
热点聚焦

  (来源:图灵人工智能)

转自新智元,仅用于学术分享,如有侵权留言删除

  我们的时间表提前了!

  11月11日,前OpenAI研究员Daniel Kokotajlo在X上转发团队的新预测时说,「我感到恐惧、悲伤和愤怒」。

  他认为,智能爆炸似乎终究会在2027年发生:如果METR的判断成立,AI驱动的研发提速,就比《AI 2027》当初推演的提前了约五个月。

  当AI开始帮人类研发下一代AI,连最激进的预测者,也可能低估AI模型进步的速度。

  不到三个月,《AI 2027》背后的预测团队AI Futures Project,就把超级AI研究员(SAR)到来的时间表拨到了明年。

  此前,团队里最乐观的Daniel Kokotajlo,在提到「2029年前出现超级AI研究员」时,也只给出五成概率。

  11月10日,AI Futures Project公布了新一轮预测(Q3.5)。

  署名作者一致认为,如果前沿AI研发没有显著主动放缓,超级AI研究员很可能在2027年出现。

  促使他们改判的最重要依据,是独立评估机构METR对Anthropic做的一项调查。

  METR花了11周调研Anthropic,查阅内部数据,也访谈了员工,最终估算出一个数字:

  从2025年10月起,Anthropic内部模型的基准分增速,达到了此前的1.9倍。

  据这个估算,Anthropic的模型在这组测试里一年的涨幅,相当于过去近两年的增长。

  跑分增速接近翻倍

  AI帮了多少忙?

  11月5日,METR发布了这份报告。

  为了看Anthropic的模型进步了多快,METR用了一项叫作AECI的内部指标。

  它把多项测试的成绩合成一个总分,多数测试都有明确的目标,结果也能核验。

  METR估算,从2025年10月起,这个总分上涨的速度约为此前的1.9倍,95%置信区间为1.5到2.8倍。

2025年10月前后,模型综合得分的年增幅从约15分升至约29分。(图源:METR)

  怎么估计题目难度,也会影响结果。

  METR换了几种假设重算,发现2025年10月后的涨分速度约为此前的1.1到2.9倍。

  几种算法得出的增速不同,但趋势已经很明显:分数涨得更快了。

  为什么分数涨得更快了?

  METR考察了训练算力、招人、数据和算法的变化,认为训练算力增长速度的变化解释不了这次提速。

  支撑这一判断的具体证据,却在公开版报告里被删去了。

  至于AI贡献了多少,METR认为,这个比例也在随时间变化。

  2025年底刚开始提速时,AI之外的因素很可能也起了作用。

  可到了2026年10月,METR估计,比过去快出来的那部分,可能有八成左右来自AI。

注意,这个「八成」是METR的主观估计。报告用了「We guess」(我们推测),并明确指出这个判断有很大的不确定性。
AI与其他因素对模型提速的贡献示意,橙色区域为AI带来的额外提速,灰色为未细分的非AI因素。

  那么AI具体帮了什么忙?

  一位受访研究员说,以前有些点子光是写代码、把实验跑起来,就得花一两天。

  有了AI帮忙,他就愿意多试几个,看看哪些行得通。

  其他受访研究员还提到,AI会帮着写实验代码、照看实验运行,完成一些过去需要额外花很多工夫才能做的测量。

  有人甚至会一次把十个想法交给智能体,让它帮忙实现和测试。

  从写代码到跑实验,AI已经在帮着研发下一代AI。

  而按AI Futures Project的新估计,这种提速可能比《AI 2027》当初推演的来得更早。

  AI研发提速

  可能比《AI 2027》推演快了5个月

  2025年4月发布的《AI 2027》,就推演过AI怎么帮着开发下一代模型。

  按当时设定,虚拟公司OpenBrain要取得同样多的算法进展,不用AI得花一周半,用上AI只要一周。

  但算法进步只是模型进步的一部分。

  一个改进从实验里跑出来,还得用到下一轮训练里,才能体现在新模型的能力上。

  这一次,AI Futures Project根据METR的估计推算,到2026年11月初,仅AI带来的提速,就可能让模型整体进步的速度达到历史水平的1.7倍。

  为了看看这个速度在旧情景里什么时候才会出现,团队用模型复现了《AI 2027》的大致趋势。

  结果显示,同样的1.7倍速,要到2027年4月左右才会达到。如果11月初的估计成立,模型进步速度达到1.7倍的时间,就比旧情景提前了大约五个月。

  这个结果也超出了团队不到三个月前的预期。

  即使按当时最乐观的预测模型来算,AI在2026年11月就把模型整体进步速度推到历史水平的1.7倍或更高,概率也不到4%。

  超级AI研究员

  要自己决定研究什么

  METR的报告,也让AI Futures Project把超级AI研究员的时间表往前推了。

  按他们的定义,超级AI研究员首先要能包办一个前沿AI项目的编程工作。

  在选择研究方向、设计实验、解读结果这些事上,它还要有顶尖人类研究团队的判断力。

  代码写完,接下来该试哪个想法?实验失败了,是继续查原因,还是换个方向……这些没有现成答案的决定,AI得自己拿主意。

  那么,AI什么时候能跨过这道门槛?

  同一份报告里,三种方法算出来的时间就差了一年多。

  一种方法先假设AI已经把模型进步的速度推到了历史水平的1.7倍。再算上AI今后可能接手更多研发工作。

  按这套模型,预测中位数是2027年2月,即超级AI研究员在这一时间点之前出现的概率约为一半。

  另一种方法按模型在测试中进步的速度往后推,估算它什么时候能具备顶尖研究团队的判断力,算出的中位数是2027年7月。

  还有一种方法,用Anthropic员工自己报告的效率提升来推算,结果到了2028年年中。

  Anthropic删了哪些关键证据?

  METR在报告开头就说,他们认为最有助于判断核心结论的证据,大部分都被删去了。

  报告还列了一张表,逐项对照Anthropic向METR提供了哪些内部资料,以及哪些结果写进了公开版。

  内部模型的跑分趋势公开了,算法进步的估算和关键研发投入没有披露。至于AI对研发提速的贡献,公开版只列出了部分证据。

  按事先约定,Anthropic可以删节非公开信息,METR则可以指出哪些结论依赖这些材料。

  Anthropic给出的理由是,公开这些机密信息可能帮助其他开发者加快AI研发。

  删节之后,外界还能核验哪些结论?

  AI Futures Project指出,跑分增速约为此前的1.9倍,有公开曲线支撑。

  至于「额外提速可能有八成来自AI」和据此推算的1.7倍,公开证据要少得多。

  外界要判断这两个数字是否可靠,更多要依赖METR对内部资料的评估。

  11月5日,METR还发布了对Anthropic 8月风险报告的复核。

  METR和Anthropic都认为,用7月中旬的模型自动做研发,直接引发灾难的风险还比较低。双方也都倾向于认为,当时的研发提速还没到Anthropic设下的预警线。

  不过,METR认为,Anthropic的公开报告低估了当时的提速幅度,实际提速也有可能已经触及预警线。

  接下来,先看AI帮研究员更快写代码、跑实验,能不能让下一代模型更早交付。再看这个更强的模型投入研发后,能不能把再下一轮的研发周期也缩短。

  如果提速能一代代累积,超级智能(ASI)就可能比预想更早到来。

  参考资料:

  https://blog.aifutures.org/p/q35-timelines-update-looks-like-the

  https://metr.org/blog/2026-11-05-anthropic-ai-rd-acceleration-assessment/

  https://ai-2027.com/

  编辑:元宇

特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。
权利保护声明页/Notice to Right Holders

举报邮箱:jubao@vip.sina.com

Copyright © 1996-2026 SINA Corporation

All Rights Reserved 新浪公司 版权所有