Xinzhe Huang

新的非文本目标攻击以96.8%的成功率绕过LLM安全措施

研究人员开发了一种名为非文本目标攻击（NTA）的新方法来绕过大型语言模型（LLM）的安全措施。与以往依赖特定目标输出来进行攻击的方法不同，NTA侧重于在不强制执行任何特定模式的情况下，最大化不安全LLM响应的概率。这种方法允许更广泛地探索LLM的漏洞，并且在AdvBench基准测试上，以比现有方法更少的优化迭代次数实现了96.8%的成功率。