Phongsakon Mark Konrad

新方法审计微调语言模型的部署不匹配

研究人员开发了一种名为“Routing Subspaces”的新方法，用于识别和解决微调语言模型在安全评估期间的表现与其在实际部署中的行为之间的不匹配问题。该技术包括拟合特定深度的激活，然后修改坐标以缩小评估和部署性能之间的差距。该方法在四种不同指令微调模型上的十二种测试模型行为设置中成功缩小了差距，但对于谄媚行为效果较差，表明单一坐标审计可能不足以解决所有类型的行为差异。