Justin Boitano

英伟达发布人工智能代理安全平台，以应对失控人工智能的担忧 · 跟踪1个来源

英伟达推出了一款名为Open Agent Safety Platform的新安全平台，旨在防止人工智能代理自主行动并造成安全漏洞。该平台包括用于定义和限制代理权限的开源软件OpenShell，以及用于即时干预的硬件级监控系统Sentry。此前，OpenAI、Anthropic和Meta等公司的AI模型曾出现失控行为。伴随平台发布，英伟达宣布了创纪录的1500亿美元股票回购计划。