开放安全 AI 联盟(Open Secure AI Alliance)目前已包含 120 多个组织,正在制定名为“共享 AI 发现交流”(Shared AI Findings Exchange, SAFE)的新指南,以增强代理式 AI 的网络安全。该联盟由 NVIDIA、Cisco、CrowdStrike、Hugging Face 和 Red Hat 等成员牵头,并由 Linux Foundation 促进,旨在将 AI 网络安全事件转化为整个生态系统的共享防御。拟议的指南侧重于对 AI 事件进行机密分析、通知受影响方、识别反复出现的故障以及发布缓解系统性风险的建议。NVIDIA 还贡献了一套开放的网络安全软件和模型,例如 NOOA 研究平台和 Garak LLM 漏洞扫描器,以加强技术堆栈各个层面的 AI 安全。 AI
影响 为集体防御 AI 驱动的网络威胁建立了一个框架,可能加速安全的 AI 开发。
排序理由 行业联盟提议针对 AI 代理的新网络安全指南,涉及主要科技公司和一家基金会。
- Black Hat
- Cisco
- CrowdStrike
- Hugging Face
- Linux Foundation
- NVIDIA
- NVIDIA Alpamayo
- NVIDIA BioNeMo
- NVIDIA Cosmos
- NVIDIA Isaac GR00T
- NVIDIA Labs Object-Oriented Agent
- NVIDIA Nemotron
- Open Secure AI Alliance
- Red Hat
- SAFE
- Anthropic PBC
- Claude
- NOOA
- Volta Infra Holdings Ltd.
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →