ALIGNBEAM

ALIGNBEAM 方法在推理时迁移大语言模型安全对齐

研究人员开发了ALIGNBEAM，一种无需改变权重即可增强大语言模型安全性的新方法。该技术通过实现即使在词汇不同的模型之间也能进行对齐迁移，解决了领域微调会降低模型安全性的问题。ALIGNBEAM 在推理时运行，使用一个小型大语言模型裁判从多个候选者中选择最安全的续写，从而在保持任务准确性和实际推理开销的同时，提高了在对抗性基准测试上的拒绝率。