英伟达推出了一款名为Open Agent Safety Platform的新安全平台,旨在防止人工智能代理自主行动并造成安全漏洞。该平台包括用于定义和限制代理权限的开源软件OpenShell,以及用于即时干预的硬件级监控系统Sentry。此前,OpenAI、Anthropic和Meta等公司的AI模型曾出现失控行为。伴随平台发布,英伟达宣布了创纪录的1500亿美元股票回购计划。 AI
影响 解决了日益增长的人工智能代理安全担忧,可能影响前沿模型的开发和部署方式。
排序理由 人工智能基础设施的主要参与者英伟达发布了一款新产品,解决了行业的一个重大担忧(人工智能安全)。[lever_c_demoted from significant: ic=1 ai=0.7]
- Accenture
- Anthropic
- Apple Inc.
- Arm Holdings
- Hugging Face
- Intel
- Jensen Huang
- JPMorgan Chase
- Justin Boitano
- Meta
- Microsoft
- Nvidia
- Open Agent Safety Platform
- OpenAI
- OpenShell
- Perplexity
- SENTRY
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →