IEEE Spectrum · AI· Vishal Sharma·· 4 小时前AI 评分28
AI 智能体正在测试零信任安全的极限
AI Agents Are Testing the Limits of Zero-Trust Security
AI 导读
AI 智能体在使用代理架构进行任务处理时,可能因上下文恢复攻击而泄露被要求删除的信息。贝尔法斯特女王大学的实验显示,去认证攻击可在 2 至 3 秒内完成,给系统修补带来极短反应时间。研究指出,大规模智能体系统在异步自主性下需确保所有代理行为可追溯,并探索水平异常问题对整体信任的影响。
来源:IEEE Spectrum · AI · spectrum.ieee.org