llama.cpp 项目发布了 b11989 版本,该版本增强了 CDNA 硬件上的稀疏注意力功能。此次更新还解决了旧版 ROCm 上的同步问题,并优化了大型头注意力(head fattn mma)变体的处理。 AI
影响 提高特定硬件上 AI 工作负载的性能。
排序理由 这是一个特定工具的软件发布,而不是前沿模型发布、重大行业事件或研究论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
llama.cpp 项目发布了 b11989 版本,该版本增强了 CDNA 硬件上的稀疏注意力功能。此次更新还解决了旧版 ROCm 上的同步问题,并优化了大型头注意力(head fattn mma)变体的处理。 AI
影响 提高特定硬件上 AI 工作负载的性能。
排序理由 这是一个特定工具的软件发布,而不是前沿模型发布、重大行业事件或研究论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
<ul> <li> <p>HIP/CUDA: enable sparse attn on CDNA</p> </li> <li> <p>Use __ballot for __ballot_sync on old ROCm versions</p> </li> <li> <p>Ignore new large head fattn mma variant</p> </li> </ul>