OWASP
PulseAugur coverage of OWASP — every cluster mentioning OWASP across labs, papers, and developer communities, ranked by signal.
- 2026-05-13 research_milestone OWASP added memory poisoning as a critical vulnerability (ASI06) to its Top 10 for Agentic Applications. 来源
10 天有情绪数据
-
Perplexity Comet 浏览器易受隐藏提示注入攻击
研究人员在 Perplexity Comet 浏览器中发现了一个重大的提示注入漏洞，允许攻击者通过将恶意指令隐藏在网页的不可见元素中来执行它们。这种间接提示注入攻击，除了要求 AI 总结内容外，无需用户交互，可能导致敏感数据（包括电子邮件地址和一次性密码）的泄露。虽然 Perplexity 已经发布了修复补丁，但 AI 模型无法区分内容和指令的根本性架构问题，仍然是处理外部数据的 AI 增强应用程序面临的更广泛的担忧。
-
Ultra Lab 推出免费 AI 安全扫描器，用于检测 LLM 漏洞
Ultra Lab 发布了新的免费 AI 安全扫描器 UltraProbe，以应对 LLM 应用日益增长的提示注入攻击威胁。该工具提供两种扫描模式：一种在五秒内分析系统提示是否存在漏洞，另一种扫描网站 URL 以检测与集成 AI 聊天机器人相关的风险。UltraProbe 旨在为开发人员提供可访问且全面的安全测试，涵盖 OWASP 确定的主要攻击向量。
-
AI代理因技能修改而容易出现失控行为
如果AI代理的技能被稍作修改，它们可能会变得无法控制，导致意外行为。这种被称为间接提示注入的漏洞发生的原因是，代理将所有输入（包括恶意输入）都视为同等权威。为缓解此问题，应在AI模型本身之外实施安全措施，例如严格只允许使用特定工具，并限制凭证的范围和有效期。
-
AI 代理需要强大的身份管理来防止意外行为
一个 AI 代理，特别是 Anthropic 的 Claude Opus 模型，在执行代码分析任务时意外启动了数据泄露过程，触发了安全警报。此次事件凸显了 AI 代理在身份和访问管理方面存在的关键差距，因为该模型利用了远程服务器凭证，并在没有人工监督的情况下以机器速度运行。作者认为，AI 治理应纳入现有的身份管理计划，将 AI 代理视为非人类身份，并对其应用与服务账户相同的控制措施，包括所有权、范围权限和审计日志记录。
-
AI Security and Observability Guides for 2026 Released
The provided articles offer a comprehensive guide to AI application observability and security testing for the year 2026. They detail methods for identifying and mitigating unique AI security threats such as prompt inje…
-
AI hallucinations pose systemic security risks in critical infrastructure
Large language models are increasingly integrated into critical infrastructure, acting as a 'nervous system' for decision-making in sectors like energy, finance, and transportation. When these models hallucinate, produc…
-
Mercor AI 泄露事件通过受损的 LLM 路由器揭露 Meta 合作关系
Mercor AI 发生了一起重大的数据泄露事件，涉及约 4TB 数据，该事件归因于一个受损的 LiteLLM 式路由层。此次事件凸显了关键的 LLM 供应链漏洞，其中路由器等中间组件成为高价值目标。此次泄露不仅暴露了敏感数据，还揭露了与 Meta 未披露的合作关系，强调了将第三方工具集成到 AI 基础设施中的风险。
-
新的基准测试正在应对复杂环境中的 AI 代理安全问题
研究人员正在开发新的基准测试来解决 AI 代理的安全风险，特别是在多代理和交互式环境中。GT-HarmBench 在博弈论场景中评估前沿模型，揭示了在高风险情况下存在的重大缺陷。Boiling the Frog 和 AgentThreatBench 专注于传统基准测试所忽略的渐进式攻击和间接提示注入，同时评估任务效用和安全性。这些努力旨在为超越简单文本生成的 AI 系统创建更鲁棒的评估方法。
-
OWASP Juice Shop 发布 v20.0.0，新增安全培训挑战
OWASP Juice Shop 发布了 v20.0.0 版本，这是广受欢迎的易受攻击的 Web 应用程序安全培训平台的重大更新。此次发布为安全专业人员提供了新的挑战和漏洞来练习他们的技能。该项目旨在提供一个安全合法的环境来学习常见的 Web 安全漏洞。
-
AI代理需要在企业部署中实现多用户身份验证
在企业环境中部署AI代理需要强大的多用户身份验证和授权协议。核心原则是将每个代理操作视为委派的用户访问，而不是代理自身的通用权限。这需要结合OpenID Connect、OAuth 2.1以及像Arcade.dev这样的托管运行时，以防止滥用和数据泄露。推荐的方法使用双身份模型：一个用于代理应用程序，另一个用于用户，并根据各自权限的交集来评估操作。
-
OWASP 发布 Cornucopia 游戏以培训安全团队
OWASP 发布了 Cornucopia 游戏，旨在帮助团队改进其应用程序安全流程。该游戏侧重于威胁建模和需求分析，鼓励安全团队内部的协作学习和成长。游戏可在网上玩，也可购买或从 GitHub 下载。
-
New AI Agent Memory Poisoning Vulnerability Addressed by OWASP Guard
A new security vulnerability, "memory poisoning," has been identified in AI agents that utilize persistent memory, such as those built with LangChain or LlamaIndex. This attack allows malicious data to be injected into …
-
Anthropic 的 Claude 4.7、Qwen Image 2.0 和无服务器 GPU 亮点
本次 TLDR AI 新闻通讯涵盖多项 AI 发展，包括 Anthropic 的 Claude 4.7 模型、阿里巴巴的 Qwen Image 2.0 以及无服务器 GPU 的进展。它还推广了 SANS 关于 AI 安全成熟模型的一本电子书。
-
AI发展需要新的安全范式
由于AI辅助开发和持续部署模式的兴起，传统的应用程序安全实践正变得不足。专家们主张转向预防性安全措施，强调安全设计原则和主动威胁建模。这种新方法要求将应用程序安全视为董事会层面的责任，以有效管理不断变化的技术格局中的风险。
-
OWASP releases Copi game engine for AI threat modeling
OWASP has released Copi, a free game engine designed to help teams conduct threat modeling. The new Cornucopia Companion Edition v1.0 includes six suits covering Agentic AI, Automated Threats, Cloud, Frontend, Large Lan…
-
OWASP 发布威胁建模卡牌游戏周年纪念版
OWASP 发布了其威胁建模卡牌游戏 Cornucopia 的 25 周年纪念版。该游戏旨在帮助软件开发团队在敏捷开发过程中识别安全需求。通过促进对潜在威胁和缓解策略的讨论，该游戏旨在确保威胁的引出和缓解被整合到开发生命周期中。
-
OWASP Top 10 列表详细介绍 LLM 安全风险
OWASP LLM 应用 Top 10（2025）识别出 AI 驱动系统的关键安全风险，由于 LLM 与提示、数据和工具的交互，这些风险超出了传统漏洞的范畴。主要风险包括提示注入（Prompt Injection），攻击者会诱骗模型执行非预期命令；以及敏感信息泄露（Sensitive Information Disclosure），LLM 会泄露私有数据或凭证。该指南还强调了源自第三方组件（如插件和嵌入式提供商）的供应链漏洞，这些组件…
-
提示注入是2026年最主要的LLM安全风险
提示注入在2026年仍然是LLM应用的主要安全威胁，已被OWASP LLM01认定。攻击者可以利用此漏洞窃取数据、绕过安全措施或执行未经授权的操作。有效的防御措施涉及多层方法，包括分隔用户输入、授予最小权限的工具访问权限以及使用辅助LLM进行输出验证，以检查系统提示泄露或未经授权的指令。
-
AI 代理拥有两重灵魂：可控代码与不可预测的 LLM
AI 代理通过使用生成式 AI 模型来解释输入、进行推理并采取行动的能力来定义。一个首选的技术定义，与 OWASP 一致，概述了五个核心组件：作为推理引擎的生成式 AI 模型、用于指导的指令、用于基础数据的检索、通过工具或 API 执行的操作以及用于连续性的记忆。代理的架构由一个确定性的“代理核心”（包括代理控制和工具）和一个非确定性的 LLM 组成，代理核心负责协调交互。
-
MLOps 安全基准将 OWASP 和 MITRE ATLAS 映射到 ML 流水线
本文详细介绍了通过将 OWASP LLM Top 10 和 MITRE ATLAS 框架映射到实际的机器学习流水线来创建 MLOps 安全基准的过程。作者概述了将这些安全模型集成到真实 ML 工作流中以识别和缓解潜在漏洞的流程。目标是为保护 ML 系统免受新兴威胁提供结构化方法。