获取和维护高性能AI硬件（如NVIDIA HGX B300）是一项重大任务，单个单元的成本约为110万欧元。除了购买价格，组织还必须考虑大量的运营成本，包括专用空间和至少0.25-0.5名全职维护人员。硬件的使用寿命估计在2-5年之间，新一代产品预计一年内推出。单个HGX B300每秒可处理约7,000个token，支持约20名并发编码用户或120-180名RAG用户，即使有财力，可用性也是一个主要限制因素。 AI
影响 强调了部署和运行先进AI模型所需的大量基础设施投资和运营开销。
排序理由 讨论AI模型的硬件成本和维护，而非新发布或重大行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
