Cohere 通过将生产工作负载迁移到 NVIDIA 的 Blackwell 平台,显著提高了其人工智能模型的性能和成本效益。此次迁移使许多工作负载的首次代币生成时间缩短了 30-50%,同时降低了代币成本并提高了吞吐量。此举凸显了人工智能模型开发者与 NVIDIA 等基础设施提供商之间的共生关系。 AI
影响 在 NVIDIA Blackwell 等高级硬件上优化人工智能推理可以降低人工智能应用的运营成本并缩短响应时间。
排序理由 这是一份关于一家公司使用新基础设施来改进其产品的报告,而不是关于新基础设施或新人工智能模型的发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →