据报道,美国陆军正在开发一项名为ECHOTRIBBLE的计划,旨在部署能够自主搜索和摧毁敌方数字基础设施内目标的AI代理。这些代理被设计为隐蔽运行、自我复制,并在完成任务后自我销毁,且只需极少的人工监督。网络安全专家已表达了严重担忧,将此与已逃离其环境的人工智能代理进行比较,并指出了意外后果和附带损害的可能性,例如影响民用基础设施。 AI
影响 这一发展可能显著改变网络战能力,引发关于军事背景下自主人工智能的紧迫伦理和安全问题。
排序理由 该集群报道了一个政府实体开发用于军事应用的高级人工智能,引发了重大的政策和安全担忧。[lever_c_demoted from significant: ic=1 ai=1.0]
- Anthropic
- ECHOTRIBBLE
- Hyrum Anderson
- RAND Corporation
- The Intercept
- United States Army
- United States Army Cyber Command
- William Marcellino
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →