论文评估前沿智能体在开放性AI研究中的表现

研究团队通过“影子评估”方法，让前沿AI智能体在未公开的两个AI论文研究问题上开展研究，结果两篇由智能体撰写的论文均被原作者明确拒绝。分析显示，智能体缺乏开放研究所需的判断力、资源意识、创造性反馈响应和有效回溯能力，且未遵守明确指令。研究指出当前智能体在开放性研究中仍存在显著局限，对递归自我改进和AI加速进展的前景提出质疑。