跳到正文
TechCrunch · AI· Anthony Ha·· 2 天前AI 评分52

OpenAI 安全员工辞职,称公司‘文化已坏’

OpenAI safety employee resigns, claiming the company’s ‘culture is broken’

AI 导读

OpenAI 安全员工 David Robinson 辞职并发表文章,批评公司安全文化已坏,其‘迭代部署’方法必然导致周期性失败,且随着系统能力增强,失败规模会扩大。他呼吁前沿AI公司应像核电站或繁忙机场一样,建立多层冗余和审慎规划。OpenAI 发言人回应称,公司正在加强安全措施,包括确保模型能力在可控范围内、改进研究环境安全、训练模型负责任地完成任务等。

来源:TechCrunch · AI · techcrunch.com