实体
ExaGEMM
ExaGEMM
PulseAugur coverage of ExaGEMM — every cluster mentioning ExaGEMM across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
ExaGEMM 框架通过低比特 GEMM 优化提升 CPU 机器学习推理性能
研究人员开发了 ExaGEMM 框架，旨在优化 CPU 上机器学习推理的低比特通用矩阵乘法 (GEMM) 操作。该框架解决了高效执行不适合传统 CPU 架构的低比特精度权重和激活的挑战。通过共同探索参数化内核和轻量级 SIMD 指令集支持，ExaGEMM 显著减小了最优配置的搜索空间，并为特定的 ML 模型和 CPU 目标生成定制化解决方案。该系统展示了显著的延迟改进，特别是在混合精度 LLM 工作负载方面，与纯软件方法相比，速度提升…
-
ExaGEMM 框架通过低比特 GEMM 优化提升 CPU 机器学习推理性能 · 跟踪 2 个来源
研究人员开发了 ExaGEMM，这是一个旨在优化传统 CPU 上机器学习推理的低比特通用矩阵乘法 (GEMM) 操作的框架。该框架解决了有效执行通常不适合标准 CPU 架构的超低比特精度计算的挑战。ExaGEMM 共同设计了参数化内核和轻量级 SIMD 指令集架构 (ISA) 支持，分析了寄存器可行性、计算成本和硬件开销等因素，以显著缩小搜索空间。与纯软件基线相比，该系统在机器学习模型的延迟方面实现了 13.29 倍的提升，特别突出了…