研究人员开发了一个名为LaMR(Latent Multi-Rubric)的新框架,以提高LLM驱动的代码代理的效率。目前的代理经常在无关的代码片段上浪费令牌预算,但LaMR通过将代码相关性分解为两个不同的维度来解决这个问题:语义证据和依赖支持。这种方法可以更精确地修剪上下文,从而在令牌使用量上节省大量成本,并在许多情况下提高代码任务的性能。实验表明,LaMR经常能匹配或超越未修剪的基线,节省高达31%的令牌并提高精确匹配分数。 AI
影响 通过减少令牌浪费和提高复杂任务的准确性来增强LLM代码代理的效率。
排序理由 该集群包含一篇详细介绍LLM上下文修剪新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →