研究人员推出Hermes,一个旨在通过在推理过程中智能分配额外计算来增强模型性能的新框架。这种称为上下文推理的方法允许模型决定如何管理上下文窗口并在它们之间保留信息。配套的Hermes-Learn框架训练模型开发这些自适应上下文推理策略,这些策略已被证明可以提高各种基准和模型的性能,甚至可以推断到训练期间未见的计算水平。 AI
影响 这项研究可能通过使模型能够更好地利用可用的计算资源,从而实现更高效的AI模型扩展和复杂任务性能的提高。
排序理由 该集群描述了一篇关于新颖AI模型推理框架的新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →