OWASP
PulseAugur coverage of OWASP — every cluster mentioning OWASP across labs, papers, and developer communities, ranked by signal.
- developed by Bifröst 90%
- developed by OWASP Cornucopia 90%
- instance of EchoLeak 90%
- instance of OWASP Cornucopia 70%
- affiliated with OWASP Cornucopia 70%
- used by Common Weakness Enumeration 70%
- instance of Microsoft Copilot for Microsoft 365 70%
- affiliated with Google Summer of Code 2018 70%
- instance of SQL injection 70%
- affiliated with DEV Community 60%
- used by Javascript 60%
- affiliated with LLM Applications 60%
- 2026-08-21 research_milestone OWASP is hosting a virtual conference featuring a talk on AI threat modeling. 来源
- 2026-08-11 research_milestone OWASP released the Top 10 for LLM Applications 2026, a guide to critical security risks for LLM-powered applications. 来源
- 2026-05-13 research_milestone OWASP added memory poisoning as a critical vulnerability (ASI06) to its Top 10 for Agentic Applications. 来源
12 天有情绪数据
-
AI安全实验室通过Docker在本地教授LLM加固
一个网络研讨会和配套的实验指南已被开发出来，用于向社区大学教师传授AI安全概念。使用Docker Compose构建的本地实验环境，允许学生在不产生API成本或需要大量IT资源的情况下，练习针对各种攻击向量加固AI聊天机器人。课程重点关注提示注入和其他OWASP Top 10漏洞，演示外部安全网关如何有效保护LLM，而不是仅仅依赖系统提示。
-
新书为可防御的AI系统提供实用指导
Hernan Huwyler出版了一本新书，题为《构建可防御的AI系统：安全与合规》，面向首席AI官和其他专业人士。该书提供了关于实施AI风险管理框架、监管合规和审计就绪证据的实用指导，侧重于可量化的风险和可操作的控制，而非抽象概念。它涵盖了诸如基于美元的风险量化、遵守ISO/IEC 42001和NIST AI RMF等标准、欧盟AI法案文档以及AI代理和供应商控制的实际实施等主题。
-
开发者为.NET AI代理提供提示注入防御措施
一位开发者分享了为代理式.NET项目构建健壮的 redaction 管道的见解，解决了提示注入漏洞。该管道设计在数据存储之前运行，采用多种检测方法，包括正则表达式、启发式方法和上下文模型，以识别和屏蔽敏感信息。该方法旨在通过将 redaction 作为数据问题而非呈现问题来防止数据泄露和安全问题。
-
新的多智能体AI安全协议可对抗隐藏的提示注入攻击
研究人员正在开发新的方法来保护多智能体AI系统免受间接提示注入攻击，在这种攻击中，恶意指令隐藏在智能体处理的数据中。一种名为 multi-CaMeL 的新协议旨在跨智能体交互保留数据来源，与现有方法相比，显著降低了此类攻击的成功率。这项研究强调了保护AI智能体所面临的更广泛的挑战，并强调需要强大的安全架构，这些架构假设内容会被泄露，并侧重于限制此类泄露的后果，而不是仅仅依赖提示过滤。
-
AI模型端点面临新的安全威胁和缓解策略
安全专家敦促开发人员为其与大型语言模型交互的应用程序端点实施强大的威胁建模。攻击者越来越多地利用自动化工具和复杂技术来利用这些机器学习表面的漏洞，超越了传统的API安全。主要威胁包括在训练过程中损害模型完整性的后门攻击、通过扰动输入绕过过滤器的规避攻击、可以重建训练数据的模型反演攻击，以及泄露有关训练集信息的成员推理攻击。为缓解这些风险，建议开发人员将模型构件视为不受信任的代码，规范化和限制输入，限制API响应暴露的信息，并实施查询预算。
-
LLM集成引入了新的安全风险，例如间接提示注入
将大型语言模型（LLM）集成到应用程序中会带来比传统API集成更重大的安全挑战。LLM通过自然语言处理数据和指令，模糊了可信命令和不可信内容之间的界限。这可能导致间接提示注入等漏洞，在这种情况下，外部数据源（如电子邮件或文档）包含恶意指令，在没有直接用户输入的情况下影响LLM的行为。解决这些风险需要更深入的安全模型，该模型不仅考虑用户授权，还要考虑所有输入的来源，以防止系统被操纵而执行非预期操作。
-
模型上下文协议 (MCP) 成为 AI 的 USB-C 标准
模型上下文协议 (MCP) 正在成为 AI 代理与外部工具和数据集成的重要标准，这与 USB-C 的普及程度相似。该协议标准化了 AI 模型与各种系统交互的方式，通过减少每个框架对自定义包装器的需求，简化了开发和部署。MCP 使 AI 代理能够访问资源、执行工具和调用工作流，并由主机管理用户同意和日志记录。虽然 MCP 促进了连接，但确保 AI 代理理解并安全地与复杂系统交互仍然是一个重大挑战，需要强大的安全措施和仔细的系统设计。
-
OWASP LLM 应用 Top 10 榜单将提示注入列为首要威胁
OWASP LLM 应用 Top 10 列表突出了 AI 和大型语言模型应用程序中的关键安全漏洞。提示注入被确定为主要威胁，强调了授予 LLM 访问工具和企业系统的风险。该列表旨在将安全关注点引向快速发展的 AI 格局中最重要的问题领域。
-
OWASP 发布面向 Agentic AI 应用的 Top 10 风险列表
OWASP 发布了“面向 Agentic Applications 的 Top 10”列表，详细介绍了与 AI 系统相关的十项风险。该列表于 2025 年 12 月发布，旨在强调 Agentic AI 中潜在的安全漏洞。另外，一篇文章讨论了线性回归作为一种用于建模变量之间关系的统计方法。
-
为个人用户解释 OWASP Agentic AI Top 10 风险
一位开发者将 OWASP Agentic AI Top 10 风险转化为在个人笔记本电脑上运行多个代理的个人的实用建议。该建议强调在工具调用级别保护代理操作，而不是仅仅关注提示过滤，并强调维护可验证审计追踪的重要性。关键建议包括固定包版本、为服务器实施严格的来源检查、隔离代理身份以及要求对敏感操作进行明确批准。
-
Maxim AI 发布 Bifrost，一款用于 LLM 越狱检测的开源 AI 网关
Maxim AI 开发了一款名为 Bifrost 的开源 AI 网关，以应对日益增长的 LLM 越狱威胁。该网关通过检查用户输入和模型输出来集中管理安全性，旨在防止绕过原生对齐保护措施的对抗性攻击。Bifrost 利用确定性模式过滤器和第三方护栏引擎来维护安全性，同时不会引入显著的延迟。
-
AI护栏：Bifrost 在不断演变的威胁中引领网关执行
企业AI护栏对于保护生产环境中的LLM部署免受提示注入和数据泄露等漏洞至关重要。解决方案包括NVIDIA NeMo Guardrails和Guardrails AI等应用内框架，以及AWS Bedrock Guardrails和Azure AI Content Safety等云特定服务。Bifrost是Maxim AI开发的开源AI网关，因其高性能的网关级执行而受到关注，它以最小的延迟提供集中的策略管理，并将保护范围扩展到开发人员工作站。
-
OWASP 发布新的企业人工智能安全指南
OWASP 发布了旨在保护和验证企业内人工智能系统的新指南。更新的资源旨在帮助组织负责任地实施人工智能并解决潜在风险。这项来自专注于软件安全的知名社区 OWASP 的举措，为整合人工智能技术的公司提供了实用的步骤。
-
注册表索引了 66K MCP 服务器，清理了虚假安装计数
一个新的注册表已启动，用于跟踪 GitHub、npm 和 PyPI 上的 MCP 服务器，索引了超过 66,000 个服务器，并识别了超过 130,000 个跟踪的生态系统。该注册表清理了不准确的数据，包括 2,910 个虚构的安装计数和虚高的 GitHub star 数量，通过 API 检查确保数据得到验证。该系统提供了搜索、分类安装风险、指纹识别工具和验证凭据的工具，重点关注 AI 代理的开源安全基础设施。
-
代理身份和作用域凭证不足以保障AI安全
最近的讨论强调，虽然区分代理身份和作用域凭证对安全至关重要，但它们并不能完全解决代理系统中的风险。这些措施通过追溯命名代理的行为并限制其访问权限，对于防止身份和权限滥用（一个常见的故障点）至关重要。然而，它们无法阻止诸如目标劫持或从合法数据中合成敏感信息等复杂攻击，因为即使代理意图恶意，其身份和凭证仍然有效。
-
OWASP 发布其移动应用威胁建模游戏的新版本
OWASP 发布了其 Cornucopia 移动应用版 2.0，这是一款旨在辅助移动应用威胁建模的卡牌游戏。新版本兼容最新版本的 MASVS、MASTG 和 MASWE，包含 80 种威胁，涵盖 OWASP MAS 概述的所有要求和弱点。此外，还发布了新的 OWASP Cornucopia Companion Edition，可与移动应用版结合使用，进一步辅助移动应用的 AI 驱动威胁建模。
-
OWASP发布AI代理技能十大安全风险
OWASP Agentic Skills Top 10 (AST10)报告确定了与AI代理技能相关的十大最关键安全风险。该倡议旨在突出包括OpenClaw、Claude Code、Cursor+和Visual Studio Code等工具集成在内的主要AI代理平台中的漏洞。
-
新的WAPP框架能够安全地学习WAF安全策略
研究人员开发了一个名为WAPP（Whitelisting Autonomous Policy Producer）的新框架，旨在从实时流量中安全地学习Web应用程序防火墙（WAF）的正向安全策略。传统的WAF通常依赖签名，这使得它们容易受到新型攻击，而正向安全方法则学习合法流量模式。然而，直接从实时数据中学习可能会受到恶意输入的损害。WAPP通过集成信任过滤、规则合成、置信度评分和验证，然后在强制执行策略之前进行这些操作，来解决这个问题…
-
未跟踪的AI服务器利用开发人员工具，带来安全风险
未跟踪的模型上下文协议（MCP）服务器正在开发人员机器上迅速传播，带来重大的安全风险。这些服务器通常通过简单的JSON文件编辑进行安装，以继承的开发人员凭据运行，并绕过EDR和MDM等传统安全工具。MCP标准最初来自Anthropic，现归LF Projects管理，它简化了LLM集成，但允许未经授权访问本地文件系统、内部存储库和数据库。为了解决这个问题，提出了Bifrost和Bifrost Edge作为集中式AI网关控制和设备级别允…
-
新工具解决MCP安全扫描器高误报率问题
一款名为mcpaudit的新工具已被开发出来，用于解决机器配置协议（MCP）安全扫描器的高误报率问题。这些扫描器通常依赖简单的模式匹配，会将合法的工具描述错误地标记为恶意，从而导致警报疲劳。Mcpaudit在本地分析MCP服务器配置，通过累积来自各种独立因素的加权信号，而不是依赖单一关键词，来提供更准确的安全发现。