跳到正文
OpenAI Alignment· OpenAI·· 18 小时前精选AI 评分57

OpenAI 研究:模型生命周期中哪些因素影响链式推理可监控性?

What Affects CoT Monitorability Across The Model Lifecycle?

AI 导读

OpenAI 发布研究,分析预训练、架构、强化学习和模型生成数据对链式推理(CoT)可监控性的影响。研究发现,模型困惑度降低会提升无CoT能力,强化学习阶段CoT可控性显著上升,且CoT可控性可通过监督微调在模型间传递。研究基于GPT-5至GPT-6 Astra系列模型,涵盖NCRI、Think Fast等基准评估,指出当前监控策略面临挑战,需发展新的监控方法。

推荐理由

原文分析了预训练、架构、强化学习和模型生成数据对链式推理可监控性的影响,为理解模型能力与安全风险的协同演化提供了实证依据。

来源:OpenAI Alignment · alignment.openai.com