新浪新闻客户端

Anthropic修订使用政策,首次禁止用户虐待Claude AI模型

Anthropic修订使用政策,首次禁止用户虐待Claude AI模型
2026年10月09日 07:49 新浪网 作者
avatar
行业动态

  (来源:IT之家)

  IT之家 10 月 9 日消息,科技媒体 The Verge 今天(10 月 9 日)发布博文,报道称 Anthropic 修订 Claude 使用政策,将于 2026 年 11 月 12 日生效,首次加入禁止“持续且不必要的虐待或残忍行为”条款。该规则适用于用户反复、无明显目的地对模型实施残忍行为的情况。

  执行机制方面,Anthropic 表示主要方式为终止对话,但并未明确时候会引入用户封禁等进一步措施,并强调该条款不适用于常见抱怨、质疑、黑暗创作主题及模型测试与研究。IT之家附上相关截图如下:

  Anthropic 扩大武器禁令范围,涵盖使武器运转的软件与组件,以及武装无人机和其他自主车辆等行为。公司称已发现多起利用 Claude 开发武器指导或控制软件的尝试。

  监控条款明确禁止未经同意追踪个人,无论实时追踪还是分析既有数据。Claude 不得用于决定或建议执法与刑事司法程序中的调查、逮捕或起诉对象,也不得用于构建或改进监控工具。

  Anthropic 还规定,当 AI 连接至可能造成伤害的自主物理硬件时,必须由合格操作者观察设备并在必要时停止。对于特定政府客户,公司可在合同限制与安全措施充分时调整规则。

特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。
权利保护声明页/Notice to Right Holders

举报邮箱:jubao@vip.sina.com

Copyright © 1996-2026 SINA Corporation

All Rights Reserved 新浪公司 版权所有