Align3

新方法提高了大型语言模型对安全和行为规范的遵守程度

研究人员推出了一种名为Align3的新方法，旨在提高大型语言模型对特定安全和行为指南的遵守程度。该技术利用具有分层反思和修订的测试时审议（TTD）来帮助模型在定义的规范边界内进行推理。为了评估这一点，开发了一个名为SpecBench的新基准，涵盖了各种场景和提示。实验表明，包括Align3在内的TTD方法显著增强了规范对齐，并以最小的计算开销改善了安全-有用性权衡。