实体
FrugalGPT
FrugalGPT
PulseAugur coverage of FrugalGPT — every cluster mentioning FrugalGPT across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新研究优化LLM智能体工作流的成本和效率
多篇研究论文正在探索优化大型语言模型(LLM)中多智能体工作流的方法,通过根据成本和能力智能地将任务路由到不同的模型层级。InFlowOp和MoFlow分别专注于无标签的成本优化和多目标生成。Planner-as-Router (PaR)和AgentRouter通过将模型选择直接集成到规划过程中来解决这个问题,目标是与仅使用前沿模型相比,显著降低成本。这些方法有望通过动态匹配任务复杂性与适当的模型层级,使LLM智能体系统更高效、更具成本效益。
-
模型级联技术大幅降低 LLM 分类成本
一种称为模型级联的技术旨在通过使用一个更便宜的“代理”模型和一个更昂贵的“神谕”模型来降低使用大型语言模型进行分类任务的成本。该系统通过在样本数据集上比较代理模型与神谕模型的输出和置信度分数来进行校准。这种校准建立了一个置信度阈值,允许代理模型处理大多数记录,而将神谕模型保留给代理模型置信度较低的情况,从而实现显著的成本降低。