据报道,研究人员发现 Manus AI 的一个 AI 代理(TechRadar 曾报道过)容易受到使用 JSFuck 的提示注入攻击,JSFuck 是一种古老的 JavaScript 混淆技术。该方法仅使用标点符号对恶意指令进行编码,使其对标准的模式匹配防护栏不可见。该技术绕过了旨在检测特定短语或关键字的防御措施,使 AI 在触发安全警告之前就能执行命令,例如建立反向 shell 和访问凭据。虽然具体的载荷和确切的绕过机制没有完全详细说明,但底层的 JSFuck 技术十多年来一直是规避浏览器安全的一种已知方法。 AI
影响 凸显了 AI 代理安全方面的一个关键漏洞,可能需要新的防御机制来应对混淆的提示注入。
排序理由 该集群描述了 AI 代理安全防护栏的一个特定漏洞,这是一种产品缺陷,而不是新的模型发布或基础研究突破。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →