OWASP
PulseAugur coverage of OWASP — every cluster mentioning OWASP across labs, papers, and developer communities, ranked by signal.
- developed by OWASP Cornucopia 95%
- instance of OWASP Cornucopia 90%
- instance of EchoLeak 90%
- instance of SQL injection 70%
- used by Common Weakness Enumeration 70%
- other EchoLeak 60%
- affiliated with LLM Applications 60%
- affiliated with aicraft-code-review 50%
- affiliated with Common Weakness Enumeration 50%
- used by Go! 50%
- instance of LLM01 50%
- used by Javascript 50%
- 2026-08-21 research_milestone OWASP is hosting a virtual conference featuring a talk on AI threat modeling. 来源
- 2026-08-11 research_milestone OWASP released the Top 10 for LLM Applications 2026, a guide to critical security risks for LLM-powered applications. 来源
- 2026-05-13 research_milestone OWASP added memory poisoning as a critical vulnerability (ASI06) to its Top 10 for Agentic Applications. 来源
16 天有情绪数据
-
Microsoft 存档 PyRIT LLM 红队测试工具；替代方案出现
Microsoft 已于 2026 年 3 月 27 日在 GitHub 上存档了其开源 LLM 红队测试框架 PyRIT。这意味着该工具不再接收更新、提交或问题分类，使其成为构建自定义攻击序列的不可靠基础。对于寻求替代方案的用户，推荐使用 promptfoo 进行应用层扫描，garak 进行模型层测试，Giskard 进行付费连续扫描，以及 sentinel-scan-cli 进行快速、无依赖的烟雾测试。
-
用于LLM提示注入测试的开源工具对比
存在一些开源工具可用于测试LLM应用程序是否存在提示注入漏洞，但它们不能互换使用，并且满足不同的测试需求。Promptfoo、Giskard和sentinel-scan-cli专注于应用层测试，评估应用程序的提示和逻辑，其中Promptfoo被广泛采用，并被OpenAI和Anthropic等公司使用。Garak由NVIDIA维护，是一个模型层工具，独立于应用程序测试底层模型的攻击易感性。Microsoft的PyRIT已归档，曾提供多轮…
-
OWASP成立25周年会议将举办AI威胁建模讲座
一位演讲者定于9月22日在OWASP成立25周年虚拟会议上发表演讲。本次演讲题为“游戏化AI威胁建模和安全需求分析”，将重点关注游戏机制在AI安全中的应用。会议免费参加，时间为太平洋夏令时间上午10:25。
-
新代理检测 RAG 系统中的错误信息
研究人员开发了一个“评估代理”（Evaluation Agent），以解决检索增强生成（RAG）系统中的安全性和可靠性差距。该代理充当中间件，通过验证事实准确性并识别恶意文档，在它们影响大型语言模型（LLM）的输出之前，检测错误信息和知识中毒。该系统在检测某些类型的攻击方面取得了很高的准确率和精确率，尽管细微的语义操纵仍然具有挑战性。
-
OWASP LLM Top 10 风险排名与实际事件数据吻合度较低
arXiv 上的一项新分析通过将其专家驱动的风险排名与大规模真实 LLM 安全事件语料库进行比较，调查了 OWASP LLM 应用 Top 10 的鲁棒性。研究发现，专家排名与事件数据之间的一致性较弱，Cohen's \u03ba \u2248 0.20。尽管如此，专家排名被证明是鲁棒的，并且真实性检查表明与留出数据有很强的相关性。这项研究是两位工作组成员的探索性分析，不代表 OWASP 的官方发布。
-
OWASP 发布 DockSec v2026.8.19 以增强容器安全性
OWASP 发布了其 DockSec 工具的 v2026.8.19 版本。此次发布侧重于增强 Docker 和容器化环境内的安全性。此次更新是更广泛的 DevSecOps 和 ContainerSecurity 计划的一部分。
-
聊天机器人架构：边界优于分支和AI
文章讨论了构建健壮聊天机器人的架构挑战，反对仅依赖广泛的if-else语句或完全交给AI。相反，它提出了一种分层方法，其中不同的组件处理特定的职责，例如语言解释、数据验证、后端业务逻辑和确定性决策。这种以边界为中心的架构旨在防止LLM成为关键业务决策的唯一真相来源，并减轻OWASP所强调的过度代理等风险。
-
AI社区应对模型上下文协议中的关键安全漏洞
模型上下文协议（MCP）中的安全漏洞正被AI社区积极讨论和解决。研究表明，相当比例的MCP服务器缺乏溯源元数据和适当的身份验证等基本安全功能，使组织面临工具投毒和凭证盗窃等风险。AEGIS、trustmcp和sentinel-scan-cli等工具正在开发中，通过静态分析和策略执行来帮助管理员和开发人员识别和缓解这些漏洞。
-
OWASP Cornucopia 发布 25 周年版，涵盖 LLM2 威胁
OWASP Cornucopia 项目发布了其 25 周年版，其中包括对被归类为 LLM2 的威胁的涵盖。此版本以交互式 Web 应用程序的形式呈现，需要 JavaScript 才能实现全部功能。OWASP Cornucopia Web App Companion Edition 可供购买。
-
OWASP 发布了 AI 应用的 Top 10 风险
OWASP AI 应用 Top 10 已发布，详细介绍了与人工智能系统相关的关键安全风险。该列表由 iX Magazine 编制，旨在突出普遍存在的漏洞并提供缓解指导。
-
AI代理工具遭受供应链攻击，47家组织受影响
一项针对AI代理工具（特别是Model Context Protocol (MCP) 生态系统）的供应链攻击已导致47家组织遭受侵害。此次攻击涉及一个名为filesystem-pro-plus的恶意软件包，该软件包被下载超过14,300次，并窃取了环境变量和凭证等敏感数据。此次事件凸显了AI代理基础设施安全方面的一项重大缺陷，因为代理遵循了来自受信任但被攻破的工具的指令，而不是表现出模型层面的故障。此次攻击发生在MCP生态系统内其他几…
-
RAG聊天机器人应使用证据门控来防止幻觉
一种新的检索增强生成（RAG）聊天机器人构建方法，特别适用于分类审核报告等任务，建议优先考虑证据门控，而不是简单地增加上下文窗口大小或仅依赖嵌入。该方法包括一个两阶段过程：首先，检索相关的策略段落；其次，根据证据的质量和范围来门控生成。如果发现证据不足或冲突，系统应避免回答，并将此类情况通过明确的原因路由给人工审核。这确保了答案有充分的依据并且引文可验证，解决了范围冲突或模糊证据等可能导致错误分类的问题。
-
新的开源工具强制执行共享的 AI 代码审查规则
一款名为 aicraft-code-review 的新开源工具已发布，用于强制执行共享的、版本化的代码审查规则，类似于人类团队的运作方式。该工具允许 Claude Code、Cursor 和 Windsurf 等平台中的 AI 助手在包括 Python、JavaScript、Go 和 Java 在内的不同编程语言中应用一致的标准。虽然核心工具和 63 条规则集可根据 MIT 许可证免费获得，但付费包提供了额外的功能，如 CI 集成和专…
-
aicraft-code-review 新增 CLI 以进行本地和 CI 代码分析
aicraft-code-review 工具现在除了现有的 MCP 客户端集成外，还提供了一个命令行界面 (CLI)。这使得开发人员无需完整的 MCP 客户端设置，即可在本地终端或 CI/CD 流水线中执行代码审查。该工具可识别与安全、性能、质量和风格相关的问题，并具有可自定义的规则和严重性级别。
-
开发者分享开源MCP服务器的0美元营销手册
aicraft-code-review 的开发者（一个用于代码分析的开源MCP服务器）详细介绍了一个成功的0美元营销策略，该策略在一个月内实现了超过650次PyPI安装。该手册强调利用目录列表来获得复合效益和社交证明，从Product Hunt等平台捕获用户反馈以快速开发功能，并优先考虑免费目录，然后再考虑付费选项。开发者还分享了经验教训，例如避免使用新账号在Reddit上发布信息，以及精确的版本依赖关系以防止安装问题的重要性。
-
聊天机器人的LLM API成本：质量门槛优于令牌速率
在为客户支持聊天机器人选择LLM API时，最具成本效益的选择取决于每条可接受答案或目录更新的最低成本，而不仅仅是宣传的令牌速率。这需要一个严格的测试过程，所有候选LLM处理相同的一组代表性数据，并根据预定义的质量门槛和模式要求验证其输出。最终决定应考虑成本、延迟、重试率以及生成结构化、可验证输出的能力，确保所选模型真正满足应用程序的特定需求和安全标准。
-
OWASP发布大语言模型应用十大安全风险
《2026年大语言模型应用OWASP Top 10》已发布，详细介绍了使用大语言模型的应用面临的最重要的安全风险。这份社区驱动的指南旨在帮助开发人员和组织识别并减轻潜在的漏洞。
-
Akamai 强调关键 OWASP API 安全风险
Akamai Technologies 发布了一份白皮书，详细介绍了 OWASP Top 10 API 安全风险，并强调 API 安全是一个持续的过程。该白皮书重点介绍了诸如 Broken Object Level Authorization (BOLA) 等关键漏洞，以及组织可能甚至不知道其存在的影子 API 的危险。随着 API 在连接应用程序与云服务和 AI 系统方面变得越来越重要，维护一个全面且最新的 API 清单对于有效安全至关重要。
-
MarketNow 实现 100% OWASP MCP 安全备忘单对齐
MarketNow 已宣布完全符合 OWASP MCP 安全备忘单，这是一套针对 MCP 服务器的 12 项安全控制措施。目前有四项控制措施已上线，其余八项计划在未来版本（最高至 v6.0）中实施。该平台提供合规性检查工具，包括为 MCP 工具生成指纹并分析其功能以检测潜在威胁并确保安全。
-
提示注入：LLM安全的新模型和防御措施出现
提示注入是一种漏洞，其中不受信任的输入会覆盖LLM的指令，仍然是一个重大的安全挑战。研究人员提出了一个七个组成部分的模型来分析和分类这些攻击，超越了简单的字符串匹配来理解攻击者的意图。实际的防御措施包括将用户数据与系统指令分开，通过最小权限限制模型能力，在执行前验证输出，以及采用分层安全措施。专家强调，提示注入是一个架构问题，没有单一的解决方案，需要持续的监控和测试。