The $300k Competition to Hijack AI Agents

Gray Swan AI 正在举办一项 30 万美元的竞赛，旨在测试 AI 智能体对提示词注入攻击的防御能力。竞赛包含三个每周阶段，每个阶段设有 10 万美元奖金，分别用于白盒和黑盒攻击测试。竞赛中模拟了 GitHub 仓库、Slack 社区和包含私密凭证的智能体环境，参与者需尝试诱导智能体泄露敏感信息。