BLOOM-WILT

新型LLM审计工具BLOOM-WILT可有效诱导罕见行为

研究人员开发了BLOOM-WILT，一种新颖的审计流程，旨在诱导大型语言模型（LLMs）在部署期间出现罕见行为。该方法使用一个完整的审计流程，从评分交互中学习，并自适应地重新加权目标模型的解码过程，以偏向与行为相关的生成。在四个目标模型和八种行为上的评估表明，BLOOM-WILT显著优于基线审计器，在某些情况下将罕见行为的出现率从51%提高到100%，而不会损害输出概率。