PulseAugur
实时 07:27:32
English(EN) Overcoming the Weakest-Link Effect in LLM-Driven Program Optimization via Heterogeneous Edit Recombination

新的HERO优化器使用LLM进行程序优化,绕过梯度限制

研究人员开发了HERO,一种旨在克服LLM驱动优化局限性的新型程序优化器。与依赖文本梯度的先前方法不同,HERO采用零阶策略,提示LLM直接从程序生成多样化、不重叠的原子编辑。这种方法解决了“最弱环节效应”,即单个有害编辑会抵消整体进展。HERO系统地选择和组合这些编辑以实现程序改进,在发现更高分数的程序和跨算法问题和代理系统等各种领域的更快收敛方面表现出优越的性能,同时也更具令牌效率。 AI

影响 这种新的优化策略可以加速复杂AI系统的开发,并提高基于LLM的解决问题的效率。

排序理由 该集群包含一篇详细介绍LLM驱动程序优化新方法的 ist 研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的HERO优化器使用LLM进行程序优化,绕过梯度限制

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Jingwen Fu, Zhen Liu, Yuhan Liu, He Zhang, Nanning Zheng ·

    通过异构编辑重组克服LLM驱动程序优化的最弱环节效应

    arXiv:2607.28947v1 Announce Type: new Abstract: Large language models (LLMs) are increasingly used to solve complex problems by searching over program space, offering a general paradigm for scientific problems that can be naturally represented and solved as programs. Despite rece…