研究人员开发了一种方法来检测Agentic大型语言模型（LLM）中的间接提示注入（IPI）攻击。通过在模型的内部状态上训练简单的线性探针，他们可以预测IPI暴露，在包括GLM-5.2在内的各种模型上准确率超过90%。该研究还发现LLM编码IPI信号的能力与其安全响应这些信号的能力之间存在差距。为了解决这个问题，引入了一种名为AGRI的防御机制，它使用探针门控推理来显著降低攻击成功率，同时保留正常的任务效用。 AI
影响 这项研究可能带来更安全的Agentic LLM，从而降低与间接提示注入攻击相关的风险。
排序理由 学术论文，详细介绍了检测和缓解LLM中安全漏洞的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
