实体
Advanced Matrix Extensions
Advanced Matrix Extensions
PulseAugur coverage of Advanced Matrix Extensions — every cluster mentioning Advanced Matrix Extensions across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
关系
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
较旧的 LLM 量化格式在 Apple M2 上优于较新的格式
最近在 Apple M2 笔记本电脑上对两个本地大型语言模型 (LLM) 进行的测试显示,较旧的 Q4_K_M 量化格式的表现优于较新的 MXFP4 格式。Q4_K_M 格式实现了每秒 4.7 个 token,在 44 秒内完成了 200 个 token 的生成,而 MXFP4 仅达到每秒 2.6 个 token,完成相同任务耗时 71 秒。作者推测,MXFP4 在 M2 芯片上的性能受到反量化成本以及其依赖的硬件功能 M2 不完全支…
-
测试 oneDNN 和 OpenVINO GenAI 中 Intel AMX 的有效性
本文探讨了在使用 oneDNN 和 OpenVINO GenAI 时 Intel AMX(Advanced Matrix Extensions)的有效性。作者研究了这些硬件和软件组件如何有助于加速生成式 AI 工作负载。