Mathnet

用户寻求LLM微调方法以解决开放性数学问题

Reddit的r/MachineLearning板块的一位用户正在寻求关于如何微调大型语言模型（LLM）以解决开放性数学问题的建议，特别是基于证明的任务。用户指出，依赖最终答案作为奖励的标准人类反馈强化学习（RLHF）方法，对于此类问题来说是不够的。他们正在考虑使用MathNet数据集作为训练数据，并正在寻找监督微调（SFT）和标准RL算法（如GRPO/PPO）之外的替代微调技术，因为缺乏明确的奖励函数。