ProvenanceGuard:面向 MCP 智能体的来源感知事实性验证
ProvenanceGuard 是为 MCP 智能体设计的生成后验证层,在不重训智能体的前提下保留工具输出的来源身份,识别事实成立但归属错误的「跨来源混淆」。在医疗智能体的 281 条真实轨迹上,专家判定应拦截的 139 条断言被它拦下 138 条,来源匹配准确率约 86%,另有 67 条被专家认为有据的断言被送交审查或修复。
ProvenanceGuard 是为 MCP 智能体设计的生成后验证层,在不重训智能体的前提下保留工具输出的来源身份,识别事实成立但归属错误的「跨来源混淆」。在医疗智能体的 281 条真实轨迹上,专家判定应拦截的 139 条断言被它拦下 138 条,来源匹配准确率约 86%,另有 67 条被专家认为有据的断言被送交审查或修复。
Google Research 提出 ToolGrad,用文本“梯度”迭代生成工具使用数据集:先生成真值 API 工作流,再反向标注用户提示,数据生成通过率接近 100%。