实体
Mulberry32
Mulberry32
PulseAugur coverage of Mulberry32 — every cluster mentioning Mulberry32 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
构建确定性的 Mock LLM 提供程序,以实现可靠的 CI/CD 测试
本文详细介绍了如何构建一个确定性的 Mock 大型语言模型 (LLM) 提供程序,以提高 CI/CD 流水线中评估套件的可靠性和效率。该 Mock 提供程序模仿真实 LLM API 的接口,返回一致的输出和模拟的延迟,而无需网络访问或 API 密钥。这种方法可以防止由于外部 API 调用导致的 CI 速度减慢和成本增加,从而能够更快、更稳定地测试 LLM 应用程序逻辑,包括评分、聚合和报告。
-
研究发现:多智能体LLM编排会产生显著的成本和延迟
一项比较两种LLM智能体执行方法的研究发现,在保持相同准确性的前提下,编排多个智能体会显著增加成本和延迟。该研究评估了一种“内联臂”,其中单个智能体处理所有任务,与一种“编排臂”,该方法将工作委托给多个子智能体。在20项编程任务中,编排方法产生的账单代币数量增加了3.47倍至4.38倍,速度慢了2.41倍至7.76倍,证明了多智能体协调存在显著的“分叉成本”。