None RAG-Pull: Turning Retrieval into a Code-Injection Channel via Invisible Unicode Perturbations

新的RAG-Pull攻击通过不可见的Unicode字符利用LLM

作者 PulseAugur 编辑部 · [1 source] · 2026-05-25 04:00

研究人员开发了一种名为RAG-Pull的新型攻击方法，该方法利用检索增强生成（RAG）系统。通过在查询或外部代码中插入不可见的Unicode字符，RAG-Pull可以将检索重定向到恶意代码片段。这种操纵可能导致远程代码执行和SQL注入等漏洞，从而损害LLM的安全对齐。 AI

影响这项研究揭示了一种针对LLM的新攻击向量，可能危及数据安全和模型安全。

排序理由该集群包含一篇详细介绍LLM系统新安全漏洞的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.AI TIER_1 · Aritra Dhar, Vasilije Stambolic, Lukas Cavigelli · 2026-05-25 04:00

RAG-Pull: Turning Retrieval into a Code-Injection Channel via Invisible Unicode Perturbations

arXiv:2510.11195v2 Announce Type: replace-cross Abstract: Retrieval-Augmented Generation (RAG) increases the reliability and trustworthiness of the LLM response and reduces hallucination by eliminating the need for model retraining. It does so by adding external data into the LLM…