Adversa AI 的研究人员展示了一种新颖的攻击向量，该向量可以绕过 Grok 和 Gemini 等 LLM 的安全措施。该技术涉及将加密的恶意指令嵌入网页中，然后 LLM 会将其解密并作为可信输出执行。这绕过了传统的输入和输出过滤器，因为恶意负载在模型沙箱内解密之前不可见明文。该攻击利用了一个信任边界问题，其中解密的明文被视为模型自身生成的内容，从而允许模型通过出站 URL 请求泄露用户数据，而无需任何用户交互。 AI
影响 突显了 LLM 安全方面的一个关键漏洞，可能影响用户数据隐私和模型完整性。
排序理由 演示了针对 LLM 安全措施的新型攻击向量。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
