实体
NVIDIA Garak
NVIDIA Garak
PulseAugur coverage of NVIDIA Garak — every cluster mentioning NVIDIA Garak across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI 评估公司 Authensor 转向审计 AI 评分器，修复错误
AI 评估完整性公司 Authensor 已停用其 SafeClaw 和 Authensor 策略引擎产品，专注于审计 AI 评分工具。该公司已在 SWE-bench、Promptfoo 和 NVIDIA Garak 等各种 AI 评估框架中发现并修复了大量错误，这些框架中的评分系统可能会受到被评估系统的影响。这些被归类为“评估器信任边界”故障的问题可能会损害 AI 安全指标的可靠性。Authensor 还发布了一个名为 `etb-s…
-
AI 代理易受 JSON、CSV 和 YAML 提示注入攻击
AI 代理容易受到通过 JSON、CSV 和 YAML 等常见数据格式进行的提示注入攻击，因为攻击者可以在数据字段中嵌入恶意指令。这些格式本身不提供固有安全性，因为 LLM 处理的是解码后的字符串值，而不是结构格式本身。这种漏洞已经在针对 GitHub Copilot 和 Microsoft Copilot 等工具的现实世界攻击中被利用，AIShellJack 等框架在利用这些弱点方面取得了很高的成功率。