arXiv上的一篇新论文探讨了大语言模型(LLM)代理中推理成本的经济学,发现更高的计算成本并不总能提高性能,而且成本可能非常高。研究表明,增加的成本有时会在较低成本级别能够解决的任务上失败,而最高成本设置的成本可能比最低设置高出42倍。研究建议,一种更具成本效益的策略是先从最低成本开始,仅在经验证的失败后才升级,这种方法在各种模型和基准测试中都能匹配或提高性能。 AI
影响 通过优化计算成本,为使用LLM代理提出了一种更具成本效益的方法。
排序理由 关于LLM代理经济学和性能的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →