semantic reconstruction game

新的评估游戏改进了大型语言模型越狱攻击的评估

研究人员开发了一种名为语义重建游戏的新评估方法，用于评估越狱攻击对大型语言模型（LLMs）的有效性。该方法旨在改进现有的攻击成功率（ASR）指标，这些指标可能不可靠，并且根据所使用的判决LLM的不同而差异很大。语义重建游戏通过让LLM根据响应的实质内容重建原始请求，然后将此重建与诱饵请求进行比较来确定合规性。这种方法优先避免误报，并且在针对人类标签进行测试时，与其它方法相比显示出较低的平均误差率。