USteer

新的USteer方法无需重新训练即可减少LLM幻觉

研究人员开发了USteer，这是一种新颖的无训练方法，可减少大型语言模型在推理任务中的幻觉。该技术利用模型对其输出的置信度得出的不确定性估计。通过根据置信度梯度在推理过程中调整层激活，USteer在不改变模型参数或需要额外训练数据的情况下，将生成过程引导至不确定性较低的响应。在各种任务上的实验表明，这种方法有效地减少了幻觉，展示了不确定性信号在主动推理时控制方面的潜力。