BoostLLM

LLM获得用于表格数据的Boosting微调，并有了对抗性代理的新防御措施

研究人员开发了BoostLLM，一个新颖的框架，它将传统上用于决策树的Boosting范式应用于微调大型语言模型（LLM），以应对少样本表格分类任务。该方法将顺序适配器训练为弱学习器，并结合决策树路径以增强低数据场景下的性能。与标准微调相比，BoostLLM在某些基准测试上表现出具有竞争力或更优的结果，甚至超越了基于GPT-4o的方法，表明Boosting作为结构化数据上LLM的可用训练原则。