XPower Technology 推出了其 RPP 架构 AE7100E 芯片,旨在挑战大型芯片在 AI 推理方面的统治地位。这些指甲盖大小的芯片可以分组部署,利用分布式计算支持高达 1.6 万亿参数的模型。该公司声称,与传统的超大芯片解决方案相比,这种方法提供了更低的 token 成本。 AI
影响 为大型模型的 AI 推理硬件提供了一种潜在的替代方案,专注于分布式计算。
排序理由 专门芯片架构的产品发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →