新浪新闻客户端

CEO呼吁放缓AI发展,Anthropic模型能力却加速提升至此前约两倍

CEO呼吁放缓AI发展,Anthropic模型能力却加速提升至此前约两倍
2026年11月06日 19:15 新浪网 作者
avatar
实时速报

  (来源:财闻)

   该公司首席执行官达里奥·阿莫代伊今年9月曾公开呼吁放缓前沿AI技术发展速度,以便安全防范措施跟上技术发展步伐。

  据新华社,美国模型评估和威胁研究组织11月5日发布的一份报告显示,美国Anthropic公司的人工智能(AI)模型近期在执行特定任务上的能力提升速度可能达到此前的约两倍。而该公司首席执行官达里奥·阿莫代伊今年9月曾公开呼吁放缓前沿AI技术发展速度,以便安全防范措施跟上技术发展步伐。

  模型评估和威胁研究组织的研究人员于今年8月至10月对Anthropic公司开展了约11周的独立评估。结果显示,截至10月底,Anthropic公司模型在执行定义明确任务上的能力提升速度可能约为2024年3月至2025年10月期间的两倍。

  报告指出,目前模型能力提升加速可能主要归因于Anthropic广泛利用AI辅助研发,而非模型训练计算资源投入增速的提高。AI目前尚无法在模型训练的最重要环节完全自主地作出重大研发贡献,但研究人员已观察到未来可能出现此类进展的迹象。

  阿莫代伊9月发文提出“必须放慢提升AI模型能力的脚步”,为完善安全措施争取时间。文章说,AI利用自身能力开发下一代模型的趋势正在形成,如果任其发展,AI的能力可能超越人类理解和控制相关系统风险的能力。

  这项研究是在Anthropic自愿向模型评估和威胁研究组织提供内部数据的基础上开展的。根据双方协议,该组织拥有独立决定研究方法和结论的权利,但Anthropic可以批准或拒绝相关信息调用请求,并有权在评估报告公开前对尚未公开版本内容进行删减。

  据介绍,实际被删减的内容包括算法进展估计、具体瓶颈分析以及未来模型预测等。模型评估和威胁研究组织指出,研究人员认为Anthropic删减了对形成结论最具参考价值的大部分证据,使公众难以形成独立判断。

特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。
权利保护声明页/Notice to Right Holders

举报邮箱:jubao@vip.sina.com

Copyright © 1996-2026 SINA Corporation

All Rights Reserved 新浪公司 版权所有