研究人员开发了PIMiner，一个用于大型语言模型自动提示注入红队测试的代理系统。与现有方法常常难以泛化不同，PIMiner在训练过程中从头开始构建了一个可转移的策略库。该库可以以最少的查询应用于新的、未见的模型。实验表明，PIMiner在IPIArena和AgentDojo等基准测试中，对Gemini 2.5 Pro、GPT-5.1和Claude Sonnet 4.5等模型取得了显著的攻击成功率。 AI
影响 这项研究可能带来更强大的LLM防御提示注入攻击的能力，从而提高AI代理的安全性。
排序理由 该集群包含一篇详细介绍LLM安全新系统的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
