跳到正文
Hacker News · AI· Dikesa_27·· 1 小时前精选AI 评分66

Cerbère:AI 智能体的运行时安全与数据污染追踪工具

Cerbère – taint tracking for AI agents

AI 导读

Cerbère 是一个面向 AI 智能体的运行时安全与可观测性框架,通过 taint tracking、工具调用策略、预算控制和人类审批队列,在模型决策与外部系统交互之间建立安全边界。它支持 LangChain、CrewAI、MCP 等框架,提供三重检测(规则、ML、LLM 判定)和数据流追踪,阻止敏感数据泄露或恶意工具调用。项目开源,SDK 采用 Apache 2.0,收集器与仪表盘需商业授权。

推荐理由

原文提供了可复用的运行时安全框架和 taint tracking 实现,读者可据此构建自主代理的安全边界控制。

来源:Hacker News · AI · github.com