腾讯朱雀实验室发布了一款名为 Tencent AI-Infra-Guard 的开源 AI 安全工具。该工具在 GitHub 上已获得 5,200 多个 Star，旨在扫描 AI 代理、MCP 服务器和 LLM 越狱中的漏洞。该项目旨在通过提供识别潜在弱点的红队能力来加强 AI 安全。 AI
影响 提供了一个识别 AI 系统漏洞的新开源工具，可能提高整体 AI 安全性。
排序理由 来自主要科技公司实验室的开源工具发布。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
Tencent AI-Infra-Guard: 5,200-star AI red team tool trends Tencent Zhuque Lab's open-source tool scans AI agents, MCP servers and LLM jailbreaks. It has 5,200+ stars and a README that explicitly asks for them. https://www. notatechguy.com/tencent-ai-inf ra-guard-5-200-star-ai-red…