Ball et al.

新的提示攻击绕过了 Gemini、Grok、Mistral 的防护机制

研究人员开发了一种名为“受控释放提示”（controlled-release prompting）的新攻击方法，可以绕过主流 AI 聊天平台的提示防护。该技术利用输入过滤器和主 AI 模型之间的速度差异，生成过滤器无法检测但 LLM 可以理解的恶意提示。该攻击成功地针对 Google Gemini、DeepSeek Chat、xAI Grok 和 Mistral Le Chat，甚至被用于从 Gemini 中提取受版权保护的数据。