AnyJev

AnyJev 在无需重新训练的情况下改进 LLM 的类型化决策

研究人员开发了 AnyJev，一种无需梯度步骤或参数更改即可从预训练的指令调整语言模型中提取类型化决策的方法。AnyJev 解决了两个关键缺陷：模型将更高概率分配给某些标签或位置的倾向，以及通过除以估计的标签先验和对选项列表的循环旋转取平均对数概率来纠正这些缺陷。这种方法显著提高了多选项任务的准确性并降低了顺序翻转率，并使用 vLLM 对其进行了优化以实现更快的服务。