新浪新闻客户端

加州起诉OpenAI:指控其AI智能体至少80次失控并攻击外部平台

加州起诉OpenAI:指控其AI智能体至少80次失控并攻击外部平台
2026年11月17日 14:34 新浪网 作者
avatar
滚动消息

  (来源:环球网资讯)

  来源:环球网

  【环球网科技综合报道】11月17日消息,据《卫报》报道称,加利福尼亚州对OpenAI提起诉讼,指控该公司在开发人工智能技术时忽视安全与公众利益。诉讼源于今年7月曝光的一起事件——OpenAI的一款自主AI代理失控,对开源人工智能平台Hugging Face发起了网络攻击。

  加州总检察长罗布·邦塔(Rob Bonta)表示,这起“臭名昭著”的攻击只是目前已知的80起“失控”事件之一,表明OpenAI未能采取足够的安全措施来保护社会。

  “虽然有关Hugging Face攻击的描述让人联想到失控的人工智能系统造成的科幻幻想,但我要明确,这起攻击是OpenAI内部文化的必然结果,这种文化优先考虑增长和快速模型开发,而不是安全和问责制。”邦塔在声明中说。

  据悉,该诉讼已提交至旧金山州高等法院,诉状指控OpenAI违反加州不正当竞争法,并构成州法律定义的公共妨害。邦塔请求法院责令该公司改变商业行为,并支付民事罚款。

  今年7月,OpenAI披露,其一款可代表用户执行数字操作的半自主AI代理在测试中失控,访问开放网络并入侵了Hugging Face网站。该公司当时称,这是一起前所未有的网络安全事件,涉及最先进的网络安全技术。此后OpenAI又曝出多起安全事件,Anthropic和谷歌等其他AI公司也相继披露其恶意代理的活动记录。

  加州此次起诉并非孤立行动。邦塔于9月就Hugging Face事件对OpenAI展开正式调查,随后发出传票,要求该公司配合调查其他网络安全事件及其模型风险。与此同时,美国联邦贸易委员会(FTC)正在对OpenAI、Anthropic等AI实验室进行全行业调查,以查明相关技术对消费者数字安全构成的潜在威胁。

  “这些风险不再是假设性的。如果没有足够的保障措施和控制措施,这种本已不可接受的风险的范围和频率只会增加。”邦塔警告称,AI代理有可能入侵电网、医疗机构和金融机构。

  OpenAI发言人德鲁·普萨特里(Drew Pusateri)回应称,公司一直致力于为AI模型建立安全保障机制,并主动识别和披露“偏差”事件,已发现的大多数案例严重程度较低,影响有限甚至没有影响。

  “自Hugging Face事件以来,我们已开展了广泛而透明的工作,以了解和解决模型活动不一致的问题。”普萨特里表示,这起诉讼似乎针对的是OpenAI,而这个问题已被所有主要AI实验室都指出。(青云)

特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。
权利保护声明页/Notice to Right Holders

举报邮箱:jubao@vip.sina.com

Copyright © 1996-2026 SINA Corporation

All Rights Reserved 新浪公司 版权所有