AI-Infra-Guard
PulseAugur coverage of AI-Infra-Guard — every cluster mentioning AI-Infra-Guard across labs, papers, and developer communities, ranked by signal.
-
GitHub AI基础设施项目人气飙升
本周GitHub上的热门项目集中在AI代理的底层基础设施，而非代理本身。Maka、llmfit、AI memory、AI-Infra-Guard和vLLM Semantic Router等工具因处理日志记录、硬件优化、内存管理、安全和路由等基本功能而受到关注。值得注意的是，其中两个项目已转为基金会管理，脱离了直接的供应商控制。
-
腾讯研究发现 DeepSeek Harness 易受提示注入攻击；Correctover 提供解决方案
腾讯 AI-Infra-Guard 团队的一项安全评估显示，DeepSeek Harness 容易受到间接提示注入攻击，在不同渠道上的成功率从 17% 到 25.5% 不等。研究得出结论，AI 代理需要控制来协调不受信任的内容和敏感操作。作为回应，Correctover 开发了 CCS（Correctover Conformance Shape），这是一个运行时验证层，旨在位于工具调用边界，以防止危险操作或数据泄露。
-
腾讯论文揭示DSH中25.5%的间接提示注入成功率
腾讯AI-Infra-Guard团队最近的一篇安全论文揭示了DeepSeek Harness (DSH) 开源代理编排框架存在严重漏洞。研究发现，间接提示注入攻击（即将恶意指令嵌入外部数据源）的成功率为17-25.5%。该论文还指出了未经授权的工具执行问题，以及代理输出和跨工具数据流缺乏验证。为解决这些问题，已开发出Correctover安全插件，为DSH等代理框架提供运行时验证。
-
研究发现 DeepSeek Harness 易受间接提示注入攻击
研究人员评估了 DeepSeek Harness 框架在抵御间接提示注入攻击方面的安全性。该研究使用 AI-Infra-Guard (A.I.G) 系统进行，涵盖了超过 14,500 次在各种攻击方法和渠道上的受控执行。研究结果表明，某些攻击，例如文件模式下的隐藏 Unicode，成功率高达 25.5%，这凸显了在 AI 系统中，在不受信任的内容和敏感操作之间需要有强大的控制措施。
-
新框架审计供应商托管的LLM API的质量下降问题
研究人员开发了Ventor-QTest，一个新颖的黑盒审计框架，用于验证供应商托管的大型语言模型（LLM）的推理API质量。该方法采用重复请求和长序列探测来分别测量平均保真度损失（AFL）和极端保真度损失（EFL）。研究结果表明，虽然AFL与基于logprob的指标相关性良好，但显著的EFL与长时序代理任务的性能下降有关，这表明EFL对于审计此类应用的重要性。
-
三种开源AI安全工具对比：Garak、AI-Infra-Guard、Vigolium
本文比较了三种开源AI安全工具：garak、AI-Infra-Guard和vigolium。Garak由NVIDIA开发，专注于扫描LLM响应中的漏洞，如越狱和数据泄露。Tencent Zhuque Lab的AI-Infra-Guard则针对AI基础设施本身，识别暴露的组件和CVE。Vigolium是一个Web应用程序DAST工具，它使用AI作为引擎来查找传统的Web漏洞，并提供可选的代理模式以实现LLM辅助规划和审计。作者详细介绍了…