PulseAugur
中
实时 10:30:30
实体 Attention-FC Disaggregated (AFD)

Attention-FC Disaggregated (AFD)

PulseAugur coverage of Attention-FC Disaggregated (AFD) — every cluster mentioning Attention-FC Disaggregated (AFD) across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_191399 ·

    CHIME 系统利用 DIMM-PIM 提升 LLM 长上下文注意力推理效率

    研究人员开发了 CHIME，一个旨在提高大型语言模型中长上下文注意力操作效率的新颖系统。CHIME 集成了 DIMM-PIM 技术，该技术提供了可扩展容量和带宽的平衡，解决了先前注意力-FC 分离 (AFD) 系统中的局限性。该系统采用无气泡流水线和混合粒度重新布局等先进技术来管理分布式 DRAM 芯片并优化注意力计算。评估表明，与现有的 HBM-PIM 解决方案相比，CHIME 的速度最多可提高 5.15 倍。