Hedge framework

新的GAIA框架通过全局数据选择增强LLM指令调优

研究人员开发了GAIA（Global Adaptive Instruction tuning via Gaussian processes），一个用于为大型语言模型（LLM）指令调优选择高质量数据的新框架。与受限于局部批次优化的现有方法不同，GAIA使用高斯过程回归来模拟整个语义空间中的效用。这种全局估计过程，结合自适应策略融合机制，动态地优先处理有价值的样本。该框架还包含动态遗憾保证，即使在训练过程中数据质量分数发生变化，也能确保鲁棒性。