SN50 RDU

SambaNova公布SN50 AI加速器细节，侧重带宽利用率

SambaNova公布了其SN50 RDU的新技术细节，这是一款专为高效率和低延迟推理设计的专用AI加速器。SN50采用数据流架构，拥有大型片上SRAM，并可扩展至256颗芯片，利用独立的400Gb网络进行横向扩展。虽然SN50使用了较旧的HBM2e内存，但SambaNova强调其改进的带宽利用率模型以及相比传统GPU在性能上的提升，尤其是在代理推理任务方面。