TechCrunch · AI· Anthony Ha·· 2 天前AI 评分52
OpenAI 安全员工辞职,称公司‘文化已坏’
OpenAI safety employee resigns, claiming the company’s ‘culture is broken’
AI 导读
OpenAI 安全员工 David Robinson 辞职并发表文章,批评公司安全文化已坏,其‘迭代部署’方法必然导致周期性失败,且随着系统能力增强,失败规模会扩大。他呼吁前沿AI公司应像核电站或繁忙机场一样,建立多层冗余和审慎规划。OpenAI 发言人回应称,公司正在加强安全措施,包括确保模型能力在可控范围内、改进研究环境安全、训练模型负责任地完成任务等。
来源:TechCrunch · AI · techcrunch.com