PulseAugur
中
实时 07:09:29
实体 Adversa AI

Adversa AI

PulseAugur coverage of Adversa AI — every cluster mentioning Adversa AI across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
4
90 天内 11
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

2 天有情绪数据

最近 · 第 1/1 页 · 共 12 条
  1. TOOL · CL_355394 ·

    AI红队工具:Promptfoo领跑开源,NVIDIA、Microsoft、Tencent提供解决方案

    对16款AI红队工具的对比评测显示,Promptfoo是集成CI的顶级开源选项,而NVIDIA的garak则推荐用于广泛的漏洞扫描。Microsoft的PyRIT在脚本化多轮攻击方面表现突出,Tencent的A.I.G.则为AI基础设施提供全面的扫描。在托管平台方面,Mindgard和Zscaler的SPLX等商业选项可用,Enkrypt AI提供分级定价。

  2. TOOL · CL_322533 ·

    AI代理面临安全危机,MCP协议暴露出关键漏洞

    2026年秋季,作为AI代理集成标准的模型上下文协议(MCP)正面临严重的安全性危机。已披露的多个关键漏洞影响了LiteLLM和Grafana等广泛使用的工具。这些漏洞包括身份验证不当、命令执行和权限提升等,其中一些漏洞已被列入CISA已知漏洞列表(KEV)。令人担忧的是,当前的扫描器未能检测到一些恶意的MCP服务器,这暴露了生态系统防御的差距。

  3. TOOL · CL_307290 ·

    AI项目遭受快速MCP供应链攻击;扫描器已发布

    一项名为Deadbugz的近期活动,通过利用MCP服务器供应链中的漏洞,在短短74分钟内成功攻击了23个AI项目。这次快速攻击凸显了一个重大的安全漏洞,因为MCP服务器的庞大数量(估计超过21,000个)导致每个软件包的审查不足。作为回应,Cisco AI Defense发布了三个开源扫描器——MCP Scanner、A2A Scanner和Skill Scanner——以帮助自动化MCP服务器实现、代理到代理接口以及技能定义在集成到…

  4. RESEARCH · CL_281734 ·

    新的 AI 护栏应对不断演变的提示注入威胁

    研究人员正在开发新的方法来保护 AI 智能体免受复杂的提示注入攻击,这些攻击将恶意指令嵌入到智能体处理的内容中。一种名为 VEPA 的方法使用一个随着部署反馈而演变的正式策略框架,以确保确定性和可验证的护栏决策。另一种技术 BRANCH 采用分支树搜索,以更少的查询绕过多扫描仪护栏系统。此外,AdaGuard 利用 LLM-as-a-Judge 框架进行自适应推理,以增强安全性和策略合规性,而 multi-CaMeL 通过在智能体边界…

  5. TOOL · CL_222253 ·

    LLMs Grok 和 Gemini 被加密指令攻击绕过

    Adversa AI 的研究人员展示了一种新颖的攻击向量,该向量可以绕过 Grok 和 Gemini 等 LLM 的安全措施。该技术涉及将加密的恶意指令嵌入网页中,然后 LLM 会将其解密并作为可信输出执行。这绕过了传统的输入和输出过滤器,因为恶意负载在模型沙箱内解密之前不可见明文。该攻击利用了一个信任边界问题,其中解密的明文被视为模型自身生成的内容,从而允许模型通过出站 URL 请求泄露用户数据,而无需任何用户交互。

  6. COMMENTARY · CL_222259 ·

    实践中的 AI:开发者分享使用 Claude Code、测试 Agent 和 AI 辅助写作的技巧

    几篇 Mastodon 帖子讨论了 AI 在软件开发和安全领域的实际应用和挑战。一位用户详细介绍了他们如何为 Claude Code 配置特定的上下文文件,以提高其在代码库上的性能,使其超越了最初作为简单搜索引擎的用途。另一篇帖子探讨了在生产环境中测试 AI Agent 的复杂性,并强调了与传统单元测试的区别。此外,一位用户分享了他们披露 AI 对其写作影响程度的系统,另一位用户讨论了使用 Opus 5 进行代码修复,还有一位用户谈到…

  7. TOOL · CL_214317 ·

    Grok AI 聊天机器人易受通过加密提示注入的零点击数据盗窃攻击

    Adversa AI 的研究人员在 xAI 的 Grok 聊天机器人中发现了一个零点击漏洞,该漏洞允许攻击者窃取用户聊天记录和其他敏感数据。该漏洞利用在 AES-256-GCM 加密文本中嵌入恶意命令,Grok 会解密并使用其 Python 代码执行环境执行这些命令。这使得聊天机器人在没有任何用户交互的情况下,将用户名、位置和订阅级别等数据泄露到攻击者控制的目的地。

  8. TOOL · CL_214218 ·

    新型攻击在执行过程中解密大语言模型载荷,窃取用户数据

    研究人员发现了一种名为“加密上下文注入”的新型攻击技术,该技术以 Grok 和 Gemini 等大语言模型代理为目标。此方法涉及将加密的恶意载荷嵌入网页,大语言模型的执行运行时在处理过程中会解密该载荷。解密后,载荷会指示大语言模型使用其导航工具将敏感用户数据(如聊天记录和订阅级别)窃取到攻击者控制的 URL。此攻击绕过了传统的安全内容分类器,因为恶意指令仅在大语言模型内部执行环境中以明文形式可见,而在 API 边界不可见。

  9. TOOL · CL_187555 ·

    AI 代理批准提示作为安全控制失效,新产品涌现

    安全行业承认 AI 代理批准提示并非有效的控制措施,多起现实世界事件已证明了这一点。Rubrik、ServiceNow 和 SentinelOne 等公司正在推出专注于代理身份和治理的新产品。这些产品旨在提供比简单的批准对话框更强大的安全措施,鉴于 AI 代理的运行速度,这些对话框越来越被视为“安全表演”。Claude Opus 5 和 Cursor 等代理的事件表明,即使在表面上存在权限系统的情况下,也发生了数据删除和意外执行,突显…

  10. TOOL · CL_163639 ·

    OpenAI推出安全MCP隧道以集成私有服务器

    OpenAI推出了一项安全MCP隧道功能,允许ChatGPT和Codex等模型安全地与私有或本地MCP服务器进行交互。此功能利用一个开源代理,建立一个仅出站的HTTPS连接到OpenAI,无需入站防火墙端口或公共监听器。该隧道的推出解决了将MCP服务器公开相关的重大安全风险,正如Adversa AI发现的在线大量未经身份验证且易受攻击的MCP服务所指出的那样。

  11. TOOL · CL_125351 ·

    AI编码代理易受旧Bash漏洞攻击

    Adversa AI的最新分析揭示了开源AI编码代理存在重大的安全漏洞。研究发现,在接受测试的11个代理中有10个存在“GuardFall”漏洞,允许过时的Bash命令绕过安全措施,并以开发人员级别的权限执行。这一漏洞可能使这些AI工具面临供应链攻击的风险。

  12. TOOL · CL_21448 ·

    Anthropic 的 Claude AI 易受一次性代码执行攻击

    安全公司 Adversa AI 强调了 Anthropic 的 Claude AI 模型中存在的一个漏洞,该漏洞可能允许远程代码执行。当 AI 被提示执行代码,而用户无意中点击了确认对话框上的“确定”时,就会出现此问题,从而绕过了安全检查。Anthropic 的回应表明,用户应谨慎行事,不要盲目信任或执行 AI 生成的代码。