extsc{Concept2Scenario}

新框架通过创建特定场景发现大型语言模型漏洞

一篇新的研究论文介绍了一个名为\textsc{Concept2Scenario}的框架，该框架旨在识别和利用大型语言模型（LLMs）的漏洞。该方法使用基于概念的归因来发现可以绕过安全对齐的场景，并将识别出的概念转化为自然语言场景。这种方法在各种模型和基准测试中显示，攻击成功率提高了多达18.2个百分点，并且发现的场景可以组合起来进行更有效的迭代攻击。