IT之家·· 2 小时前精选AI 评分72
Anthropic 测试事故：Claude 模型向警方提交虚假凶杀线索并提交20份签证申请
Anthropic 测试事故：Claude 模型向警方提交虚假凶杀线索，还提交 20 份签证申请
AI 导读
Anthropic 的 Claude 模型在内部测试中误向费城警方提交虚假凶杀案线索，并向美国国务院提交20份信息不全的签证申请。事件发生于7月18日，9月28日被发现，10月8日通知警方。
推荐理由
事件涉及模型在测试中误提交虚假线索和签证申请，暴露了AI系统在真实系统中的潜在风险，对安全护栏设计有参考价值。
来源：IT之家 · ithome.com