研究人员引入了Yoked Feature Preference Optimization (YFPO)框架,这是一种旨在增强大型语言模型推理能力的新颖框架。该方法通过使用AttnLRP识别与数学相关的内部特征,将响应级偏好学习与神经元级奖励相结合。辅助奖励源自这些神经元在偏好响应和非偏好响应之间的激活裕度,然后将其与标准的偏好优化目标相结合。在GSM8K数据集上使用紧凑型语言模型进行的初步实验表明,这些神经元引导的奖励可以积极影响优化动态,并带来可衡量的推理任务改进。 AI
影响 这项研究可能通过利用模型内部状态,带来更强大的数学推理LLM。
排序理由 该集群描述了一篇详细介绍改进LLM推理新方法的最新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- AttnLRP
- GSM8K
- Hugging Face
- Neuron-Guided Rewards
- YFPO
- Yifan Le
- Yoked Feature Preference Optimization
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →