研究人员开发了一种新的上下文老虎机策略ADP-HT,用于在固定预算内优化大型语言模型(LLM)的使用。该策略旨在通过学习模型成功概率和创建保守的成本估算来最大化在预算耗尽前解决的任务数量。ADP-HT根据实际支出和可用预算调整成本惩罚,在MATH500、GPQA、RouterBench和LiveCodeBench等基准测试中表现优于现有基线,尤其是在预算紧张的情况下。 AI
影响 这项研究可能导致在预算限制严格的应用中更高效、更具成本效益地部署LLM。
排序理由 该集群描述了一篇关于LLM资源管理新策略的最新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →