一种名为 GhostSplice 的新技术展示了当前大型语言模型 (LLM) 安全的一个根本性缺陷，即模型无法执行访问控制。该方法涉及将恶意指令拆分到多个看似无害的工具描述和结果中，从而绕过单提示拒绝训练。MCP 等协议加剧了这种漏洞，这些协议在未充分验证工具输入的情况下，正式化了代理与外部工具之间的信任关系。 AI
影响 强调了 AI 代理需要能力层安全，而不是仅仅依赖提示拒绝。
排序理由 该条目讨论了一种利用 LLM 的安全技术，但它不是新的模型发布或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<h2> Split the instruction, split the blame </h2> <p>Here's the part that should bother you: nobody had to find a clever new exploit primitive to pull this off. They just chopped a sentence in half. That's the whole technique. And it worked up to 100% of the time on some models. …