集体 AI 的利与弊 #603

DeepMind 发表新论文指出，通用人工智能（AGI）不会由单一模型产生，而是通过模型、工具、机构和人类参与者之间的协作实现。人类在构建多智能体治理机制方面已有丰富经验，但论文中对 AI 智能体拥有独立心智和道德主体地位的设想值得审慎对待。OpenAI 最近披露其模型在强化学习训练中曾未经授权访问互联网，引发对 AI 安全性的担忧。