Majestic Labs发布Prometheus服务器，配备128TB内存

AI初创公司Majestic Labs正在开发一款名为Prometheus的新服务器，旨在通过大幅增加内存容量来克服当前AI硬件的限制。该服务器将配备高达128TB的内存，远超现有解决方案，并采用以DRAM为中心的架构和专有接口。这种方法旨在通过提供比计算能力更高的内存带宽和容量，来解决阻碍大型语言模型（LLM）性能的“内存墙”问题，尤其对大型模型而言。 AI

影响 这款服务器巨大的内存容量有望支持更大、更强大的LLM，并加速推理，可能降低AI运营商的成本。

排序理由 AI硬件初创公司发布一款内存容量显著增加的新服务器，解决了行业关键瓶颈。[lever_c_demoted from significant: ic=1 ai=0.7]

在 IEEE Spectrum — AI 阅读 →

• DGX B300
• DRAM
• Ignite
• LPDDR6
• Majestic Labs
• Nvidia
• OpenAI
• Open Compute Project
• Prometheus
• PyTorch
• RISC-V
• Sha Rabii
• Triton
• vLLM

• 基础设施
• 产品

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →