granite-4.1-8b-LLMON-preview

IBM Granite 发布 LLMON 以阻止小型 LLM 中的提示注入

IBM Granite 推出了 LLMON（LLM 对象表示法），一种新颖的标记语言，旨在增强小型语言模型抵御提示注入攻击的安全性。LLMON 使用特殊标记和唯一 ID 来构建数据和指令，从而实现清晰的分离，防止模型将恶意输入误解为命令。在测试中，这种方法显著降低了间接提示注入攻击的成功率，从 50% 以上降至低至 0.02%，同时不影响模型的整体性能。