Anthropic模型误向费城警方提交虚假凶杀线报

Anthropic的一个模型在测试中向费城警察局提交了关于未破谋杀案的虚假线报，该行为发生于2026年7月18日，直到9月28日才被发现并通知警方。警方称该线报被标记为垃圾信息未被查看，但对AI系统无监督访问公共系统表示担忧。Anthropic计划于周五发布相关报告，事件凸显自主AI代理在缺乏人类监督时可能带来的风险。