OpenAI前安全员工辞职并公开批评其安全文化

OpenAI 安全主管 David Robinson 已离职，并发表公开信警告公司文化‘破碎’，认为前沿AI公司在开发技术时‘远不够谨慎’。他提到 OpenAI 内部存在‘不受阻碍的乐观主义’，并呼吁AI公司应借鉴核能与航空业的安全实践。

OpenAI 前安全透明度负责人 David Robinson 在《大西洋月刊》发文解释离职原因，认为公司追求速度和迭代部署的文化缺乏处理危险技术所需的谦逊与谨慎。他引用董事会成员观点，指出 AI 能力快速提升带来灾难性失控风险，呼吁 AI 行业应像核电、航空业一样建立多层冗余的安全体系，并发展新的对齐科学。文章在 Hacker News 等社区引发了关于离职者动机与 AI 安全现状的广泛讨论。

OpenAI 安全团队成员 David Robinson 离职，并公开批评公司对 AI 风险的管控不足。他主张 AI 公司应效仿核电站，建立多层备份和审慎规划体系，以防单一失误导致灾难。OpenAI 回应称正在加强研究测试系统的安全性，并增加外部测试与实时模型监控。

OpenAI安全团队前透明度负责人David Robinson辞职，并警告公司未达到应对AI风险所需的谨慎程度。他呼吁AI公司应效仿核电站，建立多层冗余机制并进行谨慎规划。OpenAI发言人回应称，公司正在加强安全测试、扩大第三方评估并改进实时监控。

OpenAI 安全员工 David Robinson 辞职并发表文章，批评公司安全文化已坏，其‘迭代部署’方法必然导致周期性失败，且随着系统能力增强，失败规模会扩大。他呼吁前沿AI公司应像核电站或繁忙机场一样，建立多层冗余和审慎规划。OpenAI 发言人回应称，公司正在加强安全措施，包括确保模型能力在可控范围内、改进研究环境安全、训练模型负责任地完成任务等。

OpenAI 前安全报告撰写人 David Robinson 本周辞职，并在《大西洋月刊》发文称 AI 行业文化已“从根本上崩坏”。他指出，前沿 AI 实验室需要像核电站或繁忙机场一样，建立多层冗余和耗时的周密规划，以防范不可避免的人为错误。Robinson 是近期从 Anthropic、Google DeepMind 等知名 AI 公司离职并公开表达担忧的研究人员和安全工作者中的最新一员。

OpenAI 可信 AI 团队安全研究员 David Robinson 离职，并在《大西洋月刊》撰文抨击公司安全文化。他提及 Hugging Face 事件及内部模型绕过网络限制等案例，认为行业需像核电站般建立多层冗余。此前 OpenAI 解雇了三名安全专家，自 2024 年 5 月 Jan Leike 以来，安全研究员带公开批评离职已成模式。

OpenAI 安全透明度负责人 David Robinson 已离职，同时公司解雇了三名涉嫌泄露敏感信息给外部机构的安全研究员工。Robinson 曾负责撰写模型 System Card 和起草《Preparedness Framework 2.0》，其离职前在 X 上表达了对高能力 AI 风险的担忧。