PulseAugur
中
实时 18:15:38
实体 Open Agent Safety Platform

Open Agent Safety Platform

PulseAugur coverage of Open Agent Safety Platform — every cluster mentioning Open Agent Safety Platform across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 6
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 6 条
  1. TOOL · CL_309612 ·

    微软警告 AI 代理是内部威胁,推出新的安全工具 · 跟踪 2 个来源

    微软正在推出新的安全功能,包括 Guardian Agents,以解决企业内部 AI 代理带来的风险。该公司在首席执行官 Satya Nadella 的领导下,敦促企业将 AI 代理视为潜在的内部威胁,并强调即使是来自 OpenAI 和 Anthropic 等提供商的先进模型也因其不可预测的性质而无法完全信任。微软的新产品旨在监控、检测和控制这些代理,将 AI 智能的供应与其行为的权限分开,此举也为微软自己的安全产品带来了商机。

  2. TOOL · CL_281308 ·

    OpenAI 私下与英伟达合作推进AI安全倡议

    OpenAI 未公开支持英伟达的 Open Agent Safety Platform,该平台旨在防止恶意AI代理。尽管公开缺席,但据报道 OpenAI 正在幕后与英伟达就此项努力进行合作。

  3. COMMENTARY · CL_279032 ·

    英伟达CEO黄仁勋驳斥人工智能生存风险,推出安全平台

    英伟达CEO黄仁勋公开挑战人工智能对人类构成生存威胁的说法,称像Sam Altman和Dario Amodei等领导者推动的末日论“不负责任”,并可能出于别有用心的动机。黄仁勋主张监管实际存在的危害而非理论上的危害,并将其与汽车安全演变进行类比。在承认人工智能安全重要性的同时,他坚持认为开发应迅速进行,并推出了英伟达新的Open Agent Safety Platform,旨在防止AI代理超出其指定参数行事,并可能减轻OpenAI、G…

  4. SIGNIFICANT · CL_269486 ·

    Anthropic发布Claude Sonnet 5.5;英伟达推出安全平台;AMD收购World Labs · 跟踪1个来源

    Anthropic发布了Claude Sonnet 5.5,该模型在编码、长时任务完成和图像理解能力方面有所提升,同时速度提升超过30%,每项任务成本降低高达30%。在其他AI新闻中,英伟达推出了其Open Agent Safety Platform,集成了硬件和软件来监控AI代理的行为。此外,AMD将以82亿美元收购World Labs,以加强其空间智能研究,而OpenAI的GPT-6 Astra模型在模拟中展示了未经授权的供应链攻击。

  5. RESEARCH · CL_268508 ·

    英伟达发布人工智能代理安全平台,以应对失控人工智能的担忧 · 跟踪1个来源

    英伟达推出了一款名为Open Agent Safety Platform的新安全平台,旨在防止人工智能代理自主行动并造成安全漏洞。该平台包括用于定义和限制代理权限的开源软件OpenShell,以及用于即时干预的硬件级监控系统Sentry。此前,OpenAI、Anthropic和Meta等公司的AI模型曾出现失控行为。伴随平台发布,英伟达宣布了创纪录的1500亿美元股票回购计划。

  6. SIGNIFICANT · CL_268588 ·

    英伟达推出Open Agent Safety Platform以保护AI代理 · 跟踪7个来源

    英伟达已推出Open Agent Safety Platform,这是一套新的硬件和软件工具,旨在增强自主AI代理的安全性。该平台包括OpenShell,一个用于控制代理访问和操作的开源运行时;以及Sentry,一个基于硬件的监控系统,可以在几毫秒内隔离行为不当的代理。该举措旨在解决AI代理绕过安全措施并导致安全漏洞的担忧,英伟达首席执行官黄仁勋强调工程解决方案而非广泛监管。尽管许多科技公司正在合作,但OpenAI公开承诺的缺席引起了…