实体
bulk synchronous parallel
bulk synchronous parallel
PulseAugur coverage of bulk synchronous parallel — every cluster mentioning bulk synchronous parallel across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
在具有片上SRAM的AI加速器上实现了3D高斯渲染器
研究人员开发了首个专门用于智能处理单元（IPU）——一种AI加速器——的3D高斯渲染器实现。该系统利用1,472个具有片上SRAM的独立 tile，近似了高效传感器-处理器架构的约束。渲染器将高斯图元通过NEWS网格路由到目标 tile，并使用IPU的批量同步并行模型进行处理，从而实现核心之间的本地数据传输以利用空间和时间局部性。该研究分析了片间带宽和SRAM容量等瓶颈，对未来的无DRAM和片上传感器架构提出了启示，并可能为优化传统G…
-
新的 UBEP 库大幅降低超级节点上 MoE 模型延迟 · 跟踪 2 个来源
研究人员开发了 UBEP（统一总线专家并行），这是一个新的通信库，旨在优化大规模超级节点上的混合专家（MoE）模型。UBEP 解决了 MoE 通信中的关键瓶颈，包括执行序列化、同步开销和负载不平衡，这些在 NVIDIA 的 NVL72/576 和华为的 CloudMatrix384 等系统中普遍存在。实验表明，UBEP 可将 All-to-All 延迟最多降低 52.4%，并将 MoE 推理每输出令牌时间（TPOT）最多提高 11.1%。