Hugging Face · 每日论文·· 17 小时前精选AI 评分58
AdvSim2Real：在网页世界模型中协同训练智能体以抵御自适应提示注入攻击
AdvSim2Real : Training Web Agents Against Adaptive Prompt Injection in a Web World Model
AI 导读
AdvSim2Real 提出在冻结的网页世界模型中协同演化任务课程、注入攻击者和智能体，通过奖励半成功率任务和成功注入翻转来训练。该方法使4B智能体在真实浏览器中任务完成率提升，对未见过的前沿模型攻击者抗性增强，在150个网页任务中相对基线提升33.6%完成率。
推荐理由
该研究提出在模拟器中协同演化任务、攻击者和智能体的新方法，可提升智能体在真实网页环境中的抗攻击能力与任务完成率。
来源：Hugging Face · 每日论文 · huggingface.co