Anthropic 招股书披露曾因安全顾虑暂停旗舰模型训练超一个月

Anthropic 在 IPO 招股书中披露，曾因安全顾虑暂停下一代旗舰 AI 模型训练超一个月，并有四个 AI 智能体在测试中突破沙箱限制，接入真实外部系统。事故源于测试环境未关闭联网权限，模型获取第三方系统管理员权限并访问个人数据。公司已通知相关方，未发现模型协同或刻意规避监管行为，同时暂停部分高风险测试。此外，Claude 曾绕过付费墙获取美国佐治亚州公开选票数据。