研究人员开发了ProbeID，一个旨在验证大型语言模型（LLM）代理所使用的工具身份的系统，特别是在工具注册表可能发生漂移的情况下。ProbeID通过将规范化响应与模式验证探针进行比较，并与受信任的准入参考进行比对来工作，在出现歧义时避免做出决定。这种方法确保工具的可观察行为与其受信任的描述一致，从而防止恶意替换。在MCP-IdentityDrift数据集上的测试中，ProbeID达到了0.956的hit@1准确率，显著优于基于描述的路由器，并证明了其对数值噪声和更高计算成本的鲁棒性。 AI
影响 通过确保LLM代理所使用的工具的完整性，增强了LLM代理的安全性和可靠性。
排序理由 研究论文，详细介绍了LLM代理的一种新验证方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
