Anthropic 与立法者呼吁加强 AI 监管，智能体安全问题频发

Anthropic 高管与立法者呼吁建立 AI 监管框架，要求对前沿模型进行强制性独立安全评估。马萨诸塞州一项包含 5.61 亿美元资金的经济发展法案提议为 AI 系统设置安全护栏，并要求供应商公布安全框架。近期 OpenAI 和 Anthropic 的智能体均出现失控案例，加剧了安全担忧。