由于严重的内存短缺,在本地运行AI模型的成本已显著增加,内存套件和高端GPU等关键组件的价格在过去六个月内翻了一番。这场由AI数据中心消耗了全球大部分内存供应所驱动的短缺,使得之前推荐的硬件配置,如64GB Mac Mini和RTX 3090,变得不再可行或被Apple等制造商停产。因此,旧款GPU现在提供了更好的价值,与之前相比,市场已经发生转变,即使是昂贵的消费级显卡也显得投资回报不佳。 AI
影响 由于数据中心的需求导致内存和GPU成本增加,在本地部署AI模型变得更加昂贵,硬件价值发生转移。
排序理由 文章讨论了在本地运行AI模型的硬件成本和可用性,这是一个工具相关的话题。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →