Relay Gain

新的ReLay框架优化LLM驱动的进化以实现成本效益

研究人员开发了一个名为ReLay的新框架，用于实现成本效益高的LLM驱动进化。该方法通过将预算从单个模型调用转移到进化种群来优化计算资源的分配。ReLay使用一个强盗调度器，让更便宜的模型在短块中探索多个轨迹，并由“Relay Gain”决定何时切换到更强大的模型。这种方法在各种基准测试中都显示出优越的性能，表明基于种群的预算分配对于有状态搜索更有效。