transform defenses

新的攻击方法结合代码和搜索技术绕过AI越狱防御

研究人员已经证明，代码补全编码和N选一搜索的结合可以有效地绕过AI模型中的自我检查越狱防御，在某些目标上成功率高达67%。这些依赖目标模型评估请求的防御措施之所以脆弱，是因为攻击利用了模型自身的评估过程。攻击的有效性因防御类型而异，代码编码在对抗转换防御方面表现更好，而字符搜索在对抗门控防御方面表现更好。该研究还识别并修复了其自身在贪婪解码下确定性攻击相关的缺陷。