Astera 推出了其 Leo X 产品,旨在增强 AI 推理机架。这项新技术利用附加到 fabric 的 DRAM 为 AI 加速器提供更多 KV 缓存空间,这对于处理长上下文工作负载至关重要。 AI
影响 这项硬件进步可以提高处理长上下文数据的 AI 模型的效率和能力。
排序理由 AI 硬件组件的产品发布。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
Astera 推出了其 Leo X 产品,旨在增强 AI 推理机架。这项新技术利用附加到 fabric 的 DRAM 为 AI 加速器提供更多 KV 缓存空间,这对于处理长上下文工作负载至关重要。 AI
影响 这项硬件进步可以提高处理长上下文数据的 AI 模型的效率和能力。
排序理由 AI 硬件组件的产品发布。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
Astera’s Leo X targets AI inference racks with fabric-attached DRAM, giving accelerators more room for KV caches in long-context workloads. # tech # technology # ai # memory # cxl # datacenter https:// techshowup.com/News/Article/01 a0f00d-3c99-79fd-b61f-ce9e0825d1e3/astera-leo-x…