PulseAugur
中
实时 15:08:48
实体 SnapMLA

SnapMLA

PulseAugur coverage of SnapMLA — every cluster mentioning SnapMLA across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_08634 ·

    SnapMLA论文详细介绍了用于高效长上下文MLA解码的硬件感知FP8量化流水线

    研究人员开发了SnapMLA，这是一个旨在提高多头潜在注意力（MLA）架构中长上下文解码效率的新框架。该方法利用硬件感知FP8量化技术来解决数值异质性和尺度不对齐等挑战。实验表明，SnapMLA在长输出解码任务中可将吞吐量提高高达1.91倍，同时保持基准测试质量。