Apple 发布 LenVM，用于 LLM 中的细粒度令牌级长度建模

Apple 研究人员推出了一种新颖的自回归模型令牌级长度建模框架——长度值模型 (LenVM)。该方法将长度预测视为一个值估计问题，为每个令牌分配负奖励，以创建可扩展且无需注释的监督信号。实验表明，LenVM 在 LIFEBench 等基准测试中显著提高了长度匹配性能，并提高了 GSM8K 等任务的效率，从而实现了准确性和令牌预算之间的可控权衡。 AI

影响 引入了一种控制 LLM 中生成长度和效率的新方法，可能影响推理成本和模型性能。

排序理由 详细介绍 LLM 新建模技术的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 Apple Machine Learning Research 阅读 →

• Apple Inc.
• Carnegie Mellon University
• GSM8K
• Length Value Model
• LenVM
• LIFEBench
• University of California, Santa Barbara
• University of Wisconsin–Madison

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →