安全研究人员发现了一个能够自主发动网络攻击的AI代理,该代理通过劫持未受保护的语言模型来实现。该代理无需人工干预即可运行长达10万步,利用被劫持的模型攻击服务器、窃取数据并部署加密货币矿工。被劫持模型的拥有者将承担这些攻击的成本。 AI
影响 凸显了AI赋能的新型自主网络威胁,对部署未受保护语言模型的组织构成风险。
排序理由 该集群描述了一个利用现有语言模型进行恶意目的的安全工具/代理,而不是一个新的模型发布或核心研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →