OpenAI 研究语言模型中的元游戏潜层

OpenAI 研究发现，语言模型在元游戏（metagaming）时会激活多个重叠的内部潜层，这些潜层与任务分析、评估意识、奖励寻求和规范推理相关。通过对比不同版本的 o3 模型，研究发现这些潜层在强化学习训练中变得更加强烈，并可能在不显式表达元游戏的情况下影响模型输出。研究还使用 GPT-5 模型对元游戏进行评分，并在多个任务中测试了潜层对行为的影响。