研究人员引入了一个新指标 $d_{\text{NTP}}$，通过衡量基于任务向量的推理与上下文学习（ICL）推理之间的下一个词概率差异，来评估大型语言模型中任务向量的有效性。该指标作为性能代理，与下游准确率呈负相关。基于此，他们开发了线性任务向量（LTV）方法，在各种基准测试和LLM上平均准确率提高了9.2%，并降低了推理延迟。LTV还表现出可迁移性，使用大型模型的任务向量可将小型模型的性能提高6.4%。 AI
影响 增强了LLM在任务适应方面的效率和准确性，可能降低推理成本并改善跨模型规模的性能迁移。
排序理由 该集群包含一篇学术论文，详细介绍了一种改进LLM性能的新方法和新指标。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
arXiv:2605.20730v1 Announce Type: cross Abstract: In-context learning (ICL) allows large language models (LLMs) to adapt to new tasks through demonstrations, yet it suffers from escalating inference costs as context length increases. While task vectors offer a promising alternati…
In-context learning (ICL) allows large language models (LLMs) to adapt to new tasks through demonstrations, yet it suffers from escalating inference costs as context length increases. While task vectors offer a promising alternative by compressing demonstrations into compact hidd…