研究人员开发了新的算法SUPG-IT和GAMCAL,以优化大型语言模型(LLM)在数据仓库SQL查询中的使用。这些流式模型级联旨在通过将大部分数据路由到更快的代理模型,仅将不确定的情况升级到更昂贵的Oracle模型,从而降低计算成本。SUPG-IT在精确率和召回率上提供联合概率保证,而GAMCAL则平衡了分类误差和Oracle成本。这两种方法在六个基准测试中都表现出色,取得了高F1分数,并与现有方法相比显著减少了Oracle调用次数。 AI
影响 优化数据仓库中LLM的推理成本,可能支持更复杂的语义查询。
排序理由 学术论文,详细介绍了LLM集成到SQL中的新算法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →