研究人员开发了HouseholdBench,这是一个新的评估数据集,旨在评估大型语言模型(LLM)在预测家庭经济行为方面的能力。该基准结合了来自六项美国家庭调查的数据,涵盖了与消费、收入、劳动力、预期和住房相关的32个预测任务。初步评估显示,大多数LLM的表现优于基本基线,表现最好的模型在数值结果上的误差减少了12%以上,尽管梯度提升树模型通常表现更好。研究还发现,对一个拥有40亿参数的开放权重模型进行微调和聚合预测,可以显著提高其性能,使其与专有LLM相匹配。 AI
影响 为评估LLM在经济预测方面的能力建立了新的标准,可能指导未来在社会经济应用方面的模型开发。
排序理由 学术论文,介绍了一个用于评估LLM的新基准数据集。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →