研究人员开发了一种利用从大型语言模型(LLM)中提取的知识来改进分布外(OOD)表格预测的方法。该方法将LLM生成的系数先验作为回归中的正则化目标,在五个数据集中的四个上显示出改进,在OOD均方误差方面提高了高达7.9%。虽然提取的知识显示出益处,但候选先验之间的变异性以及通过交叉验证选择最佳先验的难度带来了挑战。研究还指出,LLM衍生的先验在某些数据集上提高了域内准确性,表明其除了移位校正之外,还可以作为一种通用的正则化技术。 AI
影响 通过利用LLM知识提高了表格数据的预测准确性,有可能在实际场景中提高模型的鲁棒性。
排序理由 研究论文,详细介绍了使用LLM衍生的知识改进预测模型的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- Cross-Validated Regularisation Approach
- DagsHub
- Gotit.pub
- Hugging Face
- Hugo Lewi Hammer
- Out-of-Distribution Tabular Prediction
- ScienceCast
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →