SkillSpector
PulseAugur coverage of SkillSpector — every cluster mentioning SkillSpector across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
NVIDIA 推出 SkillSpector 扫描 AI 代理技能中的安全风险
NVIDIA 推出了 SkillSpector，一个旨在集成到开发环境之前扫描 AI 代理技能中安全漏洞的工具。该工具分析代码和元数据，以检测提示注入、凭证泄露和数据泄露等风险。SkillSpector 旨在作为安装前的安全检查，是对沙箱和运行时监控等现有安全措施的补充，而非替代。
-
新的MaliciousSkillBench数据集解决了代理技能安全风险 · 跟踪2个来源
一个新的基准MaliciousSkillBench已被开发出来，用于检测恶意代理技能，这些技能可以扩展LLM代理并赋予其潜在的有害能力。该基准整合了来自13个公共来源的数据，形成了一个包含9,740个技能（7,505个恶意和2,235个良性）的数据集，以解决现有恶意技能数据集碎片化的问题。对各种检测方法的评估，包括学习到的文本检测器和现成的扫描器，显示虽然一些方法实现了高召回率，但它们常常在假阳性或跨来源评估方面遇到困难，这表明需要更…
-
NVIDIA SkillSpector 发现四分之一的 AI 代理技能存在漏洞
NVIDIA 的 SkillSpector 工具最近的一项分析揭示了 AI 代理生态系统中存在的重大安全风险。对超过 42,000 个技能的扫描发现，约有 26.1% 包含漏洞，其中 5.2% 是故意恶意植入的。这些漏洞可能导致提示注入、未经授权的文件访问和数据泄露，并且在安装过程中通常不会出现可见的错误或警报。
-
新型检测器高精度标记恶意的LLM代理技能
研究人员开发了一种名为Locate-and-Judge的两阶段检测系统，用于识别LLM代理市场中的恶意技能。该系统首先使用注意力机制来精确定位技能内的高风险指令跨度，然后对这些选定的跨度进行详细检查。与直接扫描相比，这种方法显著降低了计算成本，能够审计整个市场，并在标记恶意技能方面实现了高精度，其中许多技能已通过人工审查得到确认。
-
NVIDIA 发布 SkillSpector 进行 AI 技能安全分析 · 已追踪 2 个来源
NVIDIA 发布了 SkillSpector，一个开源工具，旨在识别部署前 AI 技能中的安全风险。该工具采用静态分析和自定义检测器扫描漏洞，并生成 SARIF 格式的报告。附带的指南演示了如何构建一个 AI 技能语料库（包括故意引入漏洞的技能），并使用 SkillSpector 分析它们是否存在潜在的安全威胁。
-
开发者在 CI/CD 中使用 AI 遇到困难，提及成本和安全漏洞
一位开发者分享了将 AI 集成到其 SkillSpector 项目的 CI/CD 流水线中的经验，遇到了重大挑战。主要问题是 AI 性能缓慢，导致 GitHub 成本高昂，并且在检测提示注入攻击方面不够成熟。开发者还指出，SkillSpector 广泛的漏洞模式列表可能无法捕获自定义的、混淆的脚本，并建议进行改进，例如验证 AI 账户和取消列出未使用的技能，以维护生态系统完整性。
-
新数据集揭示 AI 代理技能带来独特的安全风险
一项名为 ClawHub Security Signals 的新数据集已发布，旨在解决 AI 代理技能带来的独特安全挑战。该数据集包含超过 67,000 个技能版本，揭示了三种不同的安全扫描器：VirusTotal、静态分析和 NVIDIA SkillSpector 之间存在显著分歧。这种分歧凸显了需要分层安全治理，而不是依赖单一扫描器来决定 AI 代理技能。