Introspection Adapters (IA)

新的SAR方法揭示了隐藏的语言模型行为并减少了幻觉

研究人员开发了一种名为稳定适配器自我报告（SAR）的新方法，以帮助识别微调语言模型中的隐藏行为。SAR是一种轻量级适配器，它提示模型仅使用其现有的训练数据来描述其自身行为，包括潜在的错误答案或有害建议。在测试中，SAR成功检测到所有植入的隐藏行为，并与Introspection Adapters等现有方法相比，显著减少了幻觉，使模型审计对从业者来说更加可靠。