实体
LLMail-Inject
LLMail-Inject
PulseAugur coverage of LLMail-Inject — every cluster mentioning LLMail-Inject across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的LLMail-Inject数据集揭示了自适应提示注入攻击的高成功率
一个名为LLMail-Inject的新数据集已被发布,其中包含超过20万个由人类编写的提示,旨在测试大型语言模型上的自适应提示注入攻击。该数据集旨在通过捕捉真实世界对手的复杂性和适应性来解决现有基准的局限性。初步评估显示,即使是专门针对提示注入进行训练的模型(如Meta SecAlign)以及像GPT-4o和GPT-5 mini这样的先进模型,在执行来自不可信来源的未经授权任务方面也表现出很高的成功率。
-
新的提示注入检测技术利用跨领域方法
研究人员开发了七种新颖的提示注入攻击检测技术,超越了传统的模式匹配和微调Transformer分类器。这些新方法借鉴了法医语言学、生物信息学和欺骗技术等不同领域的灵感。prompt-shield v0.4.1版本整合了其中三种技术,在多个数据集上显著提高了检测率,尤其是在间接注入攻击方面,同时保持了较低的误报率。