BabelSteering

BabelSteering 方法利用英文信号增强多语言大语言模型安全性

研究人员开发了 BabelSteering，一种提高大型语言模型多语言安全对齐能力的新方法。该技术使用英文安全信号来指导模型在其他语言中的行为，作为一种轻量级的推理时干预。在八种语言上的评估表明，BabelSteering 在不显著影响任务效用的情况下，能有效提高对有害请求的拒绝率，表明这是一种将安全措施推广到全球的实用方法。