研究人员引入了一个名为 BAGEN 的新框架，以解决大型语言模型（LLM）代理在缺乏适当预算意识的情况下过度花费资源的问题。该框架区分了内部计算预算和外部行动预算，并将预算意识形式化为一个渐进式区间估计过程。实验表明，当前前沿代理过于乐观，未能及早向用户发出任务成功可能性低的警报，导致资源浪费。研究还表明，预算意识是可训练的，提前停止可以节省大量的 token 使用量并改善警报行为，尽管精确的区间校准仍然是一个挑战。 AI
影响 强调了 LLM 代理需要主动管理成本，这可能带来更高效、更具成本效益的 AI 应用。
排序理由 学术论文，介绍了一种新的 LLM 代理框架和评估方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →