实体
ExLlamaV3
ExLlamaV3
PulseAugur coverage of ExLlamaV3 — every cluster mentioning ExLlamaV3 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
时间线
- 2026-07-15 product_launch ExLlamaV3 has released version 1.0.0, introducing significant performance upgrades and new features. 来源
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
ExLlamaV3 v1.0.0 发布,带来重大性能升级
ExLlamaV3 项目发布了 1.0.0 版本,标志着经过一年多的开发后取得了重大的性能升级。此次发布引入了具有先进量化和缓存的新注意力内核,改进了 Ampere 硬件上的 GEMM/GEMV 性能,并为 INT8 和 MoE 操作提供了新的内核。ExLlamaV3 现在还支持更广泛模型的张量并行,包括 Gemma4,并且移除了对 flash-attention-2 和 xformers 的依赖。
-
ExLlamaV3、Unsloth Qwen 和 Phi3 代理迎来重大本地 AI 更新
本周的本地 AI 新闻重点介绍了 ExLlamaV3 推理库的重大更新,提高了在消费级 GPU 上运行量化 Llama 模型时的效率。此外,通过 Unsloth 提供了 Qwen 3.6 模型的新 GGUF 量化版本,使其更容易在本地使用。该集群还展示了一个创新项目,该项目使用 Phi3 模型创建一个能够控制用户主计算机的自主代理。