Comprehension Audits to Mitigate Risks from Automated AI Research

本文提出“理解审计”机制，要求负责AI研发的人员向独立审计员解释其研发贡献，以证明对所构建系统的理解，作为继续开发或使用的前提条件。分析显示，主流开源AI项目中代码产出增加，但每行代码的人类审查评论率下降，自动化账户的审查率更低。建议前沿AI实验室引入独立审计员以降低自动化研发带来的安全风险。