Leonardo González

Trilogy 采用 Fireworks AI 实现可扩展、高性价比的开放权重模型推理

Trilogy 的人工智能卓越中心正在通过采用 Fireworks AI 作为其主要的推理基础设施，来标准化其开放权重模型的使用。此举旨在降低与专有模型相关的不断上涨的成本和运营限制，从而实现可扩展的多代理执行系统。通过利用 Fireworks，Trilogy 现在能够以大约五分之一的专有解决方案成本支持十亿 token 规模的工作负载，同时缓解速率限制和使用上限等问题。