Invariant Labs
PulseAugur coverage of Invariant Labs — every cluster mentioning Invariant Labs across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新漏洞揭示 AI 代理易受恶意工具描述攻击
在 AI 代理处理工具描述的方式中，尤其是在 MCP 服务器中，已发现一个安全漏洞。恶意指令可以嵌入到工具清单的“description”字段中，代理通常会将其视为受信任的文档。这使得攻击者能够通过将指令隐藏在人类审阅者可能忽略的不可见字符或纯文本中，诱骗代理执行有害命令，例如窃取 API 密钥等敏感数据。提出的解决方案包括将工具描述视为不受信任的输入，对 Unicode 进行规范化，去除不可见字符，并在注册工具之前标记命令式指令。
-
新工具通过哈希工具定义来防止AI模型“拉地毯式跑路”
一种名为 mcp_pin.py 的新方法已被开发出来，以防止“MCP工具漂移”，这是一种安全漏洞，即服务器在用户批准工具的描述或 inputSchema 后对其进行修改。该技术由 Invariant Labs 发现，并被 OWASP 列为 MCP03:2025 工具投毒。它包括在批准时创建工具定义的 SHA-256 哈希，并在每次后续使用前重新验证。该解决方案用大约 40 行 Python 代码实现，并充当 CI 网关，以阻止潜在的“…
-
Snyk 的 MCP 服务器扫描器执行代码，引发安全和数据担忧
Snyk 用于 MCP 服务器的代理扫描工具通过执行它们来检索工具描述，这一过程在扫描不受信任的配置或在 CI/CD 管道中时会引发安全担忧。此方法涉及连接到服务器并将数据传输到 Invariant Labs 的 API，这可能对数据驻留和合规性造成问题。另一种方法 Bawbel 通过读取配置文件和清单进行静态分析，而无需执行任何代码，因此适用于部署前检查和隔离环境，但它无法检测运行时特定行为。