实体
HBM-PIM
HBM-PIM
PulseAugur coverage of HBM-PIM — every cluster mentioning HBM-PIM across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
三星将逻辑单元集成到LPDDR5X内存中，以加快AI推理速度
三星公司开发了LPDDR5X-PIM，一种将逻辑单元直接集成到内存芯片中的新型内存技术。这种内存处理（PIM）方法旨在降低AI推理任务的成本和功耗，这些任务通常受限于传统内存架构的瓶颈。该公司展示了LPDDR5X-PIM与标准LPDDR5X相比，可以实现显著更高的速度和带宽，从而满足了对AI硬件日益增长的需求和成本担忧。
-
CHIME 系统利用 DIMM-PIM 提升 LLM 长上下文注意力推理效率
研究人员开发了 CHIME，一个旨在提高大型语言模型中长上下文注意力操作效率的新颖系统。CHIME 集成了 DIMM-PIM 技术，该技术提供了可扩展容量和带宽的平衡，解决了先前注意力-FC 分离 (AFD) 系统中的局限性。该系统采用无气泡流水线和混合粒度重新布局等先进技术来管理分布式 DRAM 芯片并优化注意力计算。评估表明，与现有的 HBM-PIM 解决方案相比，CHIME 的速度最多可提高 5.15 倍。
-
新编译器DCC优化内存处理架构上的机器学习内核
研究人员开发了DCC，这是一种新颖的以数据为中心的编译器，旨在优化内存处理（PIM）架构上的机器学习内核。该编译器通过联合优化数据重排和计算代码优化这两个相互依赖的过程来应对挑战。DCC通过多层抽象支持多个PIM后端，并已展示出显著的加速效果，与仅使用GPU相比，在HBM-PIM上实现了高达7.68倍的加速，在AttAcc PIM上实现了13.17倍的加速。对于端到端的LLM推理，AttAcc上的DCC将GPT-3和LLaMA-2的平…