Red-teaming AI agent monitors with an LLM that fakes tool outputs

一篇关于模拟控制评估（SCEs）的论文提出，使用大语言模型（LLM）模拟工具输出，以测试AI代理监控系统在接近真实部署环境下的表现。研究发现，模拟LinuxArena环境下的评估结果与真实环境的差距通常与两次独立真实运行之间的差距相当。SCEs在可验证场景中表现出较高的保真度，能更真实地反映部署中的监控效果，但目前尚未支持长周期、多代理攻击的模拟。