Pora

新的 PORA 方法优化 LLM 代理推理以提高效率

研究人员开发了一种名为配对结果引导推理分配 (PORA) 的新方法，以帮助 AI 代理决定何时使用更多的推理能力。PORA 通过训练代理比较同一状态下短期和长期推理路径的结果，估算扩展推理的价值与使用代理有限预算的成本，从而发挥作用。这种方法使代理能够在推理过程中做出更有效的决策，提高在记忆、编码和数学等各种任务上的性能，同时显著减少计算资源。