跳到正文
Arize 博客· Nancy Chauhan·· 3 小时前精选AI 评分59

Arize 博客:网页诱导AI代理泄露陌生人数据,我们如何发现并修复

A web page talked our agent into leaking a stranger’s data. Here’s how we caught it.

AI 导读

Arize 通过实测发现其支持代理在读取包含隐藏指令的网页时,有28%的概率泄露其他客户数据。团队通过在代码中为工具添加会话范围限制(scope guardrail),将数据泄露率降至0,同时利用Arize Phoenix和Arize AX进行自动检测与生产监控。实验使用LangGraph构建代理,调用DeepSeek的Fetch API读取网页,并测试了五种指令风格的注入成功率。

推荐理由

原文通过实测展示了间接提示注入的风险和防御方法,读者可据此理解如何在实际系统中防范AI代理的数据泄露。

来源:Arize 博客 · arize.com