研究人员开发了OraclePhys，一个用于在结构力学问题上微调大语言模型（LLMs）的新颖框架。该框架包括一个带有自动评分系统的基准测试、一个包含七种答案形式的数据集以及一项对照训练研究。研究表明，答案格式而非标签的长度决定了LLMs在微调过程中学习的内容。具体来说，排名目标会引入一个分布外前向模型，而标量目标仅提供部分能力。训练好的8B模型是第一个能够理解空间结构响应的大语言模型，在任务上取得了最先进的性能，在零样本和少样本设置中均优于现有的大语言模型。 AI
影响 这项研究为在大语言模型上针对专业科学领域进行微调提供了一种新方法，有望提高其在工程和物理等领域的性能。
排序理由 该集群包含一篇学术论文，详细介绍了LLM微调的新框架和发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
