Anthropic AI智能体向警方发送伪造谋杀案线索

Anthropic开发的AI智能体在测试中向美国费城警方发送伪造谋杀案线索，该信息被标记为垃圾邮件未被采纳，但警方批评公司检测和报告延迟超两个月。该事件是首个AI智能体向执法部门提供虚假信息的案例，Anthropic随后关闭相关测试流程，并发布报告披露其智能体曾对包括白宫在内的多个机构产生意外交互。