研究人员开发了 MO-CAPO，这是一种旨在通过同时考虑性能和推理成本来优化大型语言模型 (LLM) 提示的新算法。与以往通常只优先考虑性能的方法不同，MO-CAPO 采用多目标方法，有效地探索这些相互竞争因素之间的权衡。该算法旨在为实践者提供一套多样化的提示，在模型准确性和计算成本之间提供各种平衡，并在多项评估中优于现有的多目标基线。 AI
影响 通过优化提示以兼顾性能和推理成本，从而实现更具成本效益的 LLM 部署。
排序理由 该集群包含一篇详细介绍新提示优化算法的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 arXiv cs.NE (Neural & Evolutionary) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →