SlotGuard 系统可防止 LLM 代理泄露私有数据

研究人员开发了 SlotGuard，一个旨在防止大型语言模型 (LLM) 代理无意中泄露敏感本地上下文和凭证的新颖系统。与以前的方法不同，SlotGuard 创建了一个本地转录边界，可以屏蔽私有数据，同时保持代理性能。它通过将结构化绑定重写为类型化槽、用合成值替换秘密以及使用会话图来管理跨轮引用来实现这一点。这种方法有效地消除了凭证泄露，并显著减少了敏感字符的暴露，同时在各种 LLM 模型上保持了很高的任务成功率。 AI

影响 通过防止敏感数据泄露来增强 LLM 代理的安全性，这对于企业采用至关重要。

排序理由 详细介绍 LLM 代理安全新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• API keys
• arXiv
• Hugging Face
• LLM agents
• SlotGuard

• 安全
• 论文
• 产品

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →