GPUStack 推出了新的使用（Usage）功能，旨在提供对共享 GPU 集群内资源消耗的详细洞察。此功能旨在回答关于计算资源在哪里被使用、由谁使用以及用于哪些模型的关键问题。它提供了对 token 使用量、GPU/CPU 实例运行时间和存储的可见性，并能够按用户、API 密钥和模型类型细分使用情况，从而促进成本分配和资源管理。 AI
影响 为管理和优化 AI 基础设施成本及资源分配提供了关键的可见性。
排序理由 面向基础设施管理工具的产品发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<blockquote> <p>You bought a stack of GPUs and deployed a bunch of models. Then, at the end of the month, your boss asks: “Are these GPUs actually worth the cost?” Can you answer?</p> </blockquote> <p>If not, this article is for you.</p> <p>GPUStack’s new <strong>Usage</strong> f…