Trilogy 的人工智能卓越中心正在通过采用 Fireworks AI 作为其主要的推理基础设施,来标准化其开放权重模型的使用。此举旨在降低与专有模型相关的不断上涨的成本和运营限制,从而实现可扩展的多代理执行系统。通过利用 Fireworks,Trilogy 现在能够以大约五分之一的专有解决方案成本支持十亿 token 规模的工作负载,同时缓解速率限制和使用上限等问题。 AI
影响 通过降低开放权重模型的推理成本和运营摩擦,助力企业扩展 AI 采用。
排序理由 这是一个关于公司使用 AI 基础设施产品的案例研究,而不是新的模型发布或核心研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →