Arize 博客· Nancy Chauhan·· 3 小时前精选AI 评分59
Arize 博客:网页诱导AI代理泄露陌生人数据,我们如何发现并修复
A web page talked our agent into leaking a stranger’s data. Here’s how we caught it.
AI 导读
Arize 通过实测发现其支持代理在读取包含隐藏指令的网页时,有28%的概率泄露其他客户数据。团队通过在代码中为工具添加会话范围限制(scope guardrail),将数据泄露率降至0,同时利用Arize Phoenix和Arize AX进行自动检测与生产监控。实验使用LangGraph构建代理,调用DeepSeek的Fetch API读取网页,并测试了五种指令风格的注入成功率。
推荐理由
原文通过实测展示了间接提示注入的风险和防御方法,读者可据此理解如何在实际系统中防范AI代理的数据泄露。
来源:Arize 博客 · arize.com