SambaNova公布了其SN50 RDU的新技术细节,这是一款专为高效率和低延迟推理设计的专用AI加速器。SN50采用数据流架构,拥有大型片上SRAM,并可扩展至256颗芯片,利用独立的400Gb网络进行横向扩展。虽然SN50使用了较旧的HBM2e内存,但SambaNova强调其改进的带宽利用率模型以及相比传统GPU在性能上的提升,尤其是在代理推理任务方面。 AI
影响 SambaNova的SN50 RDU旨在提高AI推理效率和可扩展性,可能影响部署大型AI模型的性能和成本。
排序理由 文章详细介绍了特定的硬件产品(SN50 RDU)及其技术规格和竞争定位,而不是新的前沿模型发布或重大的行业性事件。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →