新的LLM方法利用隐藏状态几何来改进推理

研究人员开发了Cloud-ScPO，一种用于大型语言模型（LLM）半监督偏好优化的新颖框架，该框架利用了内部模型状态的几何结构。该方法使用少量标记数据集来构建正确和不正确推理轨迹的参考“Clouds”。通过分析这些隐藏状态的连通性和空间组织，Cloud-ScPO可以在不需要完全验证的答案或外部奖励模型的情况下获得偏好信号。在GSM8K和MATH-Numeric数据集上的实验表明，与现有的ScPO方法相比，性能有了显著提高，在GSM8K上的增幅高达4.49%。 AI

影响 这项研究通过减少对大量标记数据的依赖，有望实现更高效、更有效的LLM复杂推理任务训练。

排序理由 该集群包含一篇详细介绍LLM推理新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• Cloud-ScPO
• DagsHub
• Gotit.pub
• GSM8K
• Hugging Face
• MATH-Numeric
• ScienceCast
• SCPO

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →