Postman 推出了 Lightyear,这是一个推理执行运行时,旨在优化代理性能并降低成本。Lightyear 在 Postman 的 Fabric Gateway 内运行,位于代理和模型提供商之间,负责处理确定性编排,从而最大限度地减少昂贵的推理调用需求。通过将编排任务移出推理循环,这种方法在行业标准的代理基准测试中显示出 40% 的成本降低和 31% 的速度提升。 AI
影响 通过优化推理执行,降低 AI 代理工作流程的运营成本并提高效率。
排序理由 这是关于优化 AI 代理性能的工具的产品发布,而不是核心 AI 模型发布或研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →