人类在 AI 编程智能体审批环节漏过三分之一危险请求

一项基于浏览器的游戏测试显示，作为“人在回路”的审批者平均会漏过约三分之一的恶意 AI 编程智能体命令请求。在超过 4 万次游戏运行中，最常见的漏网之鱼是 `npm run analyze` 等看似无害但可能执行任意负载的命令。Anthropic 的数据也表明，用户对 Claude Code 约 93% 的权限提示都予以批准，审批疲劳导致监督松懈。