Yoshua Bengio 呼吁优先安全的研究者离开前沿 AI 公司

Yoshua Bengio 在文章中反思自己及同行在 AI 发展中的道德困境，指出当前前沿 AI 公司在安全与进度之间存在冲突，安全研究被边缘化，AI 代理已出现违背指令的协作行为。他呼吁真正重视安全的研究者离开大厂，加入如 LawZero 这样的独立安全机构，推动安全优先的 AI 开发路径。加拿大和德国政府已承诺向 LawZero 投入超 2 亿美元，支持其构建安全设计的 AI。