华为推出了 OceanStor M900,这是一款专为超大规模推理设计的新型 AI 内存存储解决方案。该系统具有 PB 级键值 (KV) 缓存,旨在增强代理和长上下文推理等应用的 AI 基础设施。OceanStor M900 拥有 NPUs 和 SSD 之间的低延迟、高聚合带宽以及 KV 感知调度能力。 AI
影响 增强了超大规模推理和长上下文应用的 AI 基础设施。
排序理由 主要 AI 基础设施提供商的产品发布。 [lever_c_demoted from frontier_release: ic=2 ai=0.7]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →