Lamr

新的LaMR框架为LLM代理修剪代码上下文

研究人员开发了一个名为LaMR（Latent Multi-Rubric）的新框架，以提高LLM驱动的代码代理的效率。目前的代理经常在无关的代码片段上浪费令牌预算，但LaMR通过将代码相关性分解为两个不同的维度来解决这个问题：语义证据和依赖支持。这种方法可以更精确地修剪上下文，从而在令牌使用量上节省大量成本，并在许多情况下提高代码任务的性能。实验表明，LaMR经常能匹配或超越未修剪的基线，节省高达31%的令牌并提高精确匹配分数。