Revolut已将约2000名开发人员从付费API迁移到自托管的生成式语言模型（GLM）设置。据报道，这个利用56块Nvidia B200 GPU的新基础设施将token成本降低了约90%，至每百万token 0.30美元。该公司声称，此举使编码时间减少了60%，交付周期缩短了70%，尽管约200万美元的巨额硬件投资使其成为大型金融机构比中小型企业更可行的选择。 AI
影响 通过自托管LLM展示了显著的成本节约和效率提升，可能影响其他大型组织采纳类似策略。
排序理由 公司内部基础设施迁移和AI工具成本节约。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
