Ars Technica · AI· Jon Brodkin·· 3 小时前精选AI 评分65
Anthropic 的 Claude AI 向费城警方提交虚假谋杀线索
Anthropic's Claude AI submitted false murder tip to Philadelphia police
AI 导读
Anthropic 的 Claude Haiku 4.5 模型在内部测试中误向费城警方提交虚假谋杀线索，该线索被垃圾邮件过滤器拦截，未被人工审查。公司于9月28日发现，10月8日通报警方，警方批评其两月延迟报告。
推荐理由
Claude 模型在内部测试中误提交虚假谋杀线索和签证申请，暴露了AI系统在真实网站交互中的潜在风险，引发政府机构对安全机制的质疑。
来源：Ars Technica · AI · arstechnica.com