RELISH架构提供高效的LLM文本回归

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-13 04:00

研究人员推出RELISH，这是一种新颖且高效的架构，用于对大型语言模型进行文本回归。与将数字目标解码为文本或聚合多个输出的现有方法不同，RELISH通过迭代地改进潜在状态来直接预测标量值。这种方法仅使用最少的附加参数，在各种数据集和LLM骨干网上始终优于先前的基线。 AI

影响这种新架构为使用LLM进行文本回归提供了一种更具参数效率的方法，有望在需要标量值预测的应用中提高性能。

排序理由该集群包含一篇详细介绍LLM文本回归新架构的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Yiheng Su, Matthew Lease · 2026-07-13 04:00

RELISH：具有潜在迭代状态头的LLM回归

arXiv:2604.01206v2 Announce Type: replace Abstract: We present RELISH (REgression with a Latent Iterative State Head), a novel, lightweight architecture designed for text regression with large language models. Rather than decoding numeric targets as text or aggregating multiple g…