实体
Cooperative AI
Cooperative AI
PulseAugur coverage of Cooperative AI — every cluster mentioning Cooperative AI across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
Google DeepMind 资助 1000 万美元研究多智能体 AI 安全风险
Google DeepMind 将拨款 1000 万美元，资助对多智能体 AI 系统带来的安全风险的研究。该公司担心，随着数百万个 AI 智能体开始在没有直接人类监督的情况下进行交互，可能会出现复杂的诈骗和网络攻击等新危险。该计划旨在为多智能体安全建立一个专门的研究领域，鼓励学术研究在潜在的负面后果变得普遍之前进行预测和缓解。
-
奥黛丽·唐提倡“合作式AI”来引导未来发展
牛津大学研究员奥黛丽·唐认为，当前关于AI未来的讨论在乌托邦式的奇点和反乌托邦式的恐惧之间过于两极分化。她强调了AI发展需要一个“方向盘”的重要性，她称之为“合作式AI”。这一研究重点旨在赋能社会，共同引导AI的轨迹走向一个理想的未来。
-
OpenAI 在科学和安全领域推进 AI 代理；Google DeepMind 资助多智能体研究
OpenAI 正通过多项举措推进科学计算和 AI 安全。该公司发布了一个新的基准 GeneBench-Pro，以评估 AI 代理处理复杂生物数据的能力。OpenAI 还在欧洲为可信赖 AI 的共享标准制定做出贡献，并与伦敦证券交易所集团等组织合作，将 AI 整合到业务运营中。与此同时，Google DeepMind 正在向多智能体 AI 安全研究投资 1000 万美元，旨在理解和减轻与交互式 AI 系统相关的风险。