UNIATTACK

新的UNIATTACK框架自动化LLM越狱攻击

研究人员开发了UNIATTACK，一个新颖的大型语言模型（LLM）对抗性测试框架。该框架旨在通过从现有方法中提取和优化关键攻击特征，系统地创建有效的黑盒攻击提示。UNIATTACK的以特征为中心的构建方式允许进行一次性攻击，这种攻击可以泛化到各种模型和安全类别，为评估LLM的鲁棒性提供了一个实用的工具。据报道，与基线方法相比，该框架在攻击成功率方面取得了显著提高，同时大大降低了成本。