Hugging Face Blog·· 6 天前AI 评分46
ProvenanceGuard：为 MCP 智能体提供源感知事实验证的论文发布
Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents
AI 导读
ProvenanceGuard 是一种针对 MCP 智能体的源感知事实验证方法，能识别答案中每个声明的实际来源是否与答案所引用的来源一致。在医学智能体测试中，它从 281 条真实记录中检测出 138 条应被阻止的声明，仅漏掉 1 条，同时将 67 条被专家认为有支持的声明送入复核流程。该方法通过保留来源标识，避免了跨来源混淆问题，适用于需要精确溯源的敏感数据场景。
来源：Hugging Face Blog · huggingface.co