ThinkTrap

新的攻击方法使用扩散语言模型进行黑盒LLM安全防护

研究人员开发了一种通过将连续扩散语言模型（dLLMs）与现有框架集成来攻击黑盒大型语言模型（LLMs）的新方法。该方法用学习到的生成分布取代了先前连续空间攻击中使用的任意随机映射，从而生成更自然的提示。该研究使用基于采样的RareTrap估计和基于优化的ThinkTrap搜索评估了这种dLLM耦合方法，结果显示字符级困惑度显著降低，并突出了与先前映射相比，模型风险估计可能存在数量级的差异。