研究人员开发了SearchInject，一种缓解搜索增强大型语言模型中间接提示注入攻击的新方法。该系统通过结合检索相关性、潜在搜索滥用和指令可能性得分来控制检索内容的准入。通过设置隔离阈值，SearchInject显著减少了恶意内容的暴露，对于BM25和潜在语义分析等各种检索方法，前10个目标暴露减少了83%以上。 AI
影响 增强了搜索增强LLM的安全性，可能降低与间接提示注入攻击相关的风险。
排序理由 该集群描述了一篇研究论文，其中详细介绍了一种用于控制语言模型检索暴露以防止提示注入攻击的新方法。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
An indirect prompt injection can affect a search-augmented large language model only after its carrier page reaches model context. SearchInject controls this admission decision with a joint score combining retrieval relevance, search-abuse cues, instruction likelihood, and two re…
An indirect prompt injection can affect a search-augmented large language model only after its carrier page reaches model context. SearchInject controls this admission decision with a joint score combining retrieval relevance, search-abuse cues, instruction likelihood, and two re…