PulseAugur
实时 16:44:25
English(EN) OpenAI says prompt injection in browser agents is “unfixable.” Here’s what actually helps.

Arc Gate 为 OpenAI 的“无法修复”的提示注入漏洞提供解决方案

OpenAI 已表示,浏览器代理中的提示注入是模型层面的、无法修复的结构性漏洞。然而,一种名为 Arc Gate 的新架构解决方案已在缓解这些攻击方面取得了显著成功。据报道,Arc Gate 在 AgentDojo 基准测试中达到了 100% 的有效性,在 InjecAgent 中达到了 99%,独立验证显示与未受保护的相同模型相比,成功率为 25/25。 AI

影响 为 AI 代理中的提示注入漏洞提供了潜在的架构修复方案,增强了其安全性和可靠性。

排序理由 这是针对 OpenAI 已承认问题的第三方解决方案,并非 OpenAI 的直接发布。

在 r/OpenAI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. r/OpenAI TIER_2 English(EN) · /u/Turbulent-Tap6723 ·

    OpenAI says prompt injection in browser agents is “unfixable.” Here’s what actually helps.

    <!-- SC_OFF --><div class="md"><p>OpenAI recently acknowledged that prompt injection in browser agents is a structural vulnerability that may never be fully resolved at the model level.</p> <p>They’re right that you can’t fix it in the model. But you can fix it at the architectur…