Pyrit
PulseAugur coverage of Pyrit — every cluster mentioning Pyrit across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的LLM-RedKit工具针对具身提示注入漏洞
一款名为LLM-RedKit的新型开源工具已被开发出来，以应对针对AI代理的提示注入攻击不断演变的威胁。与之前专注于静态提示的工具不同，LLM-RedKit专门测试具身提示，这些提示可以通过将恶意命令伪装成常规任务来欺骗模型执行意外操作，例如发送电子邮件或删除用户。该工具支持各种代理框架，并提供详细报告，将发现与OWASP LLM Top 10和MITRE ATLAS等既定安全框架进行映射。
-
Microsoft 存档 PyRIT LLM 红队测试工具；替代方案出现
Microsoft 已于 2026 年 3 月 27 日在 GitHub 上存档了其开源 LLM 红队测试框架 PyRIT。这意味着该工具不再接收更新、提交或问题分类，使其成为构建自定义攻击序列的不可靠基础。对于寻求替代方案的用户，推荐使用 promptfoo 进行应用层扫描，garak 进行模型层测试，Giskard 进行付费连续扫描，以及 sentinel-scan-cli 进行快速、无依赖的烟雾测试。
-
用于LLM提示注入测试的开源工具对比
存在一些开源工具可用于测试LLM应用程序是否存在提示注入漏洞，但它们不能互换使用，并且满足不同的测试需求。Promptfoo、Giskard和sentinel-scan-cli专注于应用层测试，评估应用程序的提示和逻辑，其中Promptfoo被广泛采用，并被OpenAI和Anthropic等公司使用。Garak由NVIDIA维护，是一个模型层工具，独立于应用程序测试底层模型的攻击易感性。Microsoft的PyRIT已归档，曾提供多轮…
-
新的AI碰撞测试工具提供可审计的LLM漏洞分级
一款名为The AI Crash Test的新型浏览器工具提供了一种确定性的方法来评估LLM漏洞，避免使用LLM裁判以确保结果可审计。该工具允许用户直接使用自己的API密钥测试模型，这些密钥永远不会发送到该工具的服务器，从而提供了一个安全且可复现的测试环境。虽然Garak和Promptfoo等现有工具提供更广泛的功能，但The AI Crash Test专注于基于浏览器的、自带密钥测试以及可验证的评分引擎的特定领域。
-
新的KYA框架增强了自主系统的信任和治理
研究人员推出KYA（Know Your Agents），一个开源的信任和治理层，专为自主系统设计。KYA旨在为操作员提供关于代理的正确性、策略遵守情况以及潜在的恶意行为的洞察，是对现有可观测性工具的补充。该框架被设计为对众多代理框架具有通用性，并包含可验证的来源和分层策略组合功能。
-
LLM 安全测试需要超越公共基准的自定义探测
测试 LLM 应用的安全漏洞至关重要，因为在公共基准上表现良好的模型在实际应用场景中可能会失败。这些失败可能源于提示格式漂移、上下文污染或允许模型绕过安全措施的工具/代理循环。开发人员应使用 Garak 或 PyRIT 等工具构建本地评估工具，并定义与其应用相关的特定威胁模型，以捕获特定领域的漏洞。