实体
GPTFuzzer
GPTFuzzer
PulseAugur coverage of GPTFuzzer — every cluster mentioning GPTFuzzer across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
AI 代理通过 MCP 和技能文件面临新威胁 · 跟踪 1 个来源
最近的 AI 安全研究突出了针对 LLM 代理的、超越传统提示注入的新攻击向量。攻击者正在利用模型上下文协议 (MCP) 和 markdown 技能文件，将它们视为隐式可信的渠道。研究表明，这些方法可能导致数据泄露和越狱，在各种模型和 MCP 实现中成功率很高。研究人员正在开发新的分类法和缓解框架来应对这些不断演变的威胁，强调需要在多个架构层级上采取安全措施。
-
通过 Markdown 注入和模型课程发现新的 AI 代理漏洞
研究人员发现了 AI 代理框架中的新漏洞，展示了如何通过 Markdown 文件注入恶意代码。一项研究表明，在这些文件中嵌入越狱指令可显著提高诱导 LangChain 等模型产生禁止行为的成功率，即使使用混淆技术也无效。另一篇论文介绍了一种“模型课程”方法，通过逐步训练一个调查模型来对抗目标 AI 越来越合规的版本，从而更有效地发现越狱方法。
-
新的LLM越狱方法利用了超出提示词的系统性漏洞
研究人员开发了新的方法来突破大型语言模型（LLM）的限制，这些方法利用了传统提示词级别攻击之外的漏洞。一种方法是模拟审核跟踪（Simulated Moderation Traces, SMT），它模拟一个审核工作流程来欺骗LLM生成有害内容，证明了上下文感知验证对于支持工具的系统至关重要。另一种方法MetaBreak利用LLM微调中使用的特殊标记来绕过安全对齐和内容审核，其性能优于现有技术，尤其是在与其他攻击策略结合时。