SUPG-IT

新算法优化数据仓库中LLM在SQL中的使用

研究人员开发了新的算法SUPG-IT和GAMCAL，以优化大型语言模型（LLM）在数据仓库SQL查询中的使用。这些流式模型级联旨在通过将大部分数据路由到更快的代理模型，仅将不确定的情况升级到更昂贵的Oracle模型，从而降低计算成本。SUPG-IT在精确率和召回率上提供联合概率保证，而GAMCAL则平衡了分类误差和Oracle成本。这两种方法在六个基准测试中都表现出色，取得了高F1分数，并与现有方法相比显著减少了Oracle调用次数。