实体 b10835

b10835

PulseAugur coverage of b10835 — every cluster mentioning b10835 across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

基础设施 1

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_240182 · Sep 7 · 12:52

llama.cpp b10835 修复了 NVIDIA GPU 上的 CUDA FlashAttention 发散问题

llama.cpp 项目发布了 b10835 版本，该版本解决了其在 CUDA 后端上 f16 FlashAttention 实现中的一个关键错误。此更新解决了在使用 NVIDIA GPU 上的半精度浮点注意力机制时可能导致不稳定或错误的“发散”问题。此外，该版本通过移除冗余的元数据指针赋值来优化 NVIDIA 硬件上的执行路径，从而简化了调度过程。此修复程序对于在 NVIDIA GPU 上使用 CUDA 进行本地推理的开发者和用户尤…