RA-LLM

新的AlcaTRAz防御机制在提示层面针对LLM越狱攻击

研究人员开发了AlcaTRAz，一种针对大型语言模型越狱攻击的新型防御机制。该防御机制在提示层面运行，这意味着它不需要访问模型的内部权重或进行重新训练。AlcaTRAz对输入提示引入细微的字符级扰动，破坏攻击者利用的结构模式，同时旨在保持模型在合法查询上的性能。AlcaTRAz在多种模型和攻击类型上进行了测试，显著降低了越狱的成功率，尽管它被定位为更广泛安全策略中的一个补充层。