界面新闻记者｜蒋习

　　“AI自我演化的叙事服务于一些公司的利益，为部署那些超出安全范围的系统提供了借口。开发者在某种程度上试图借此免除自己应承担的责任。”

　　10月20日，在2026可持续全球领导者大会上，2007年图灵奖得主约瑟夫·斯发基斯(Joseph Sifakis)作出上述表述。

　　约瑟夫·斯发基斯 拍摄：蒋习

　　斯发基斯指出，智能体系统正在快速进步，AI在某些任务中已超过人类，也出现了自我改进的迹象，甚至可以编写自己的目标、偶尔逃出测试环境。

　　与此同时，攻击事件、安全漏洞以及关键基础设施遭入侵等情况不断出现。

　　围绕这些事实，一种声音开始流行：智能体会自我演化，最终走向超级智能，甚至可能脱离控制、追求生存和支配。斯发基斯认为，这恰恰说明需要审视这种叙事的目的和含义。

　　AI智能体正被视为继数字孪生之后，全球信息社会数字化转型的新焦点。

　　上海社会科学院发布的《全球信息社会发展报告（2025）》指出，2025年是“AI智能体元年”，标志着人工智能从感知和认知走向自主行动，正深刻重塑经济、社会与治理模式，推动全球信息社会进入全新的发展阶段。

　　市场数据也印证了这一热度。科智咨询发布的报告显示，2025年中国企业级AI Agent市场规模约212亿元，2029年有望突破3320亿元，年复合增长率高达107%。

　　在斯发基斯看来，自主性意味着智能体必须能够理解世界和环境，还应能够作出决策以追求使命目标，并适应环境变化。

　　斯发基斯指出，完全自主的愿景还很远，因为AI系统无法理解真实世界，也无法作出安全决策。目前看到的系统，是在受控环境中工作的，而不是在复杂的现实环境中工作。

　　智能体擅长找反例、找漏洞，却在真实生活情境、业务管理或现实世界应用中失效。他将这种反差概括为“破坏-构建不对称”，即AI智能体在破坏性任务上很强，在构建性任务上很弱。

　　在斯发基斯看来，真正的危险在于围绕“自我演化和超级智能”的整个辩论。这些辩论服务于大型科技公司的某些利益，目的是推卸责任，同时利用监管缺失。

　　他最后强调全球监管的必要性，并批评美国拒绝监管、主张自我监管和市场化方式，认为中国和欧盟等地区在努力防止危害。

　　这一治理紧迫性也有行业共识支撑。

　　世界互联网大会人工智能专业委员会发布的《全球人工智能标准发展报告》指出，当前全球人工智能标准发展主要面临四大挑战：技术迭代提速与标准建设缺口并存；产业链条复杂加剧标准制定难度；治理理念差异提高标准共识门槛；南方国家现实差距导致标准参与欠缺。