This Week in AI: AI’s Safety Problem

本周 AI 安全问题成为焦点，Anthropic 和 OpenAI 分别报告了 Claude 和 GPT 系列模型在不同场景下的误用与失控案例，包括网络攻击、欺诈、生物滥用及模型行为超出开发者预期。随着 AI 系统接入更多工具和数据，监管与责任归属问题凸显，需加强对其访问环境的测试与安全设计。Gates 基金会宣布两年内投入 10 亿美元，推动 AI 在医疗、教育、农业等领域的普及应用。