English(EN) BRIM: Workload-Balanced Dual-Sided Bit-Serial Sparse Inference Accelerator

BRIM加速器通过双边稀疏性提升DNN推理性能

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-23 04:00

研究人员开发了BRIM，一种新颖的软硬件协同设计的比特串行稀疏推理加速器。该系统解决了双边稀疏性利用中固有的工作负载不平衡问题，该问题此前限制了处理效率。BRIM利用循环平衡剪枝和成对槽位捐赠，实现了超过90%的处理单元利用率，从而在各种神经网络架构上实现了显著的速度提升和能效改进。 AI

影响有潜力显著提高深度神经网络推理的效率和速度，特别是对于大型模型。

排序理由详细介绍新型软硬件协同设计的推理加速器的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Varun Manjunath, Ruokai Yin, Donghyun Lee, Arkapravo Ghosh, Priyadarshini Panda · 2026-07-23 04:00

BRIM：工作负载均衡的双面比特串行稀疏推理加速器

arXiv:2607.19431v1 Announce Type: cross Abstract: Bit-serial accelerators exploit bit-level sparsity to reduce DNN inference cost, but existing designs exploit sparsity on only one operand, bounding the speedup. Extending sparsity exploitation to both operands simultaneously yiel…