实体
UD 3.0
UD 3.0
PulseAugur coverage of UD 3.0 — every cluster mentioning UD 3.0 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
4
90 天内 4
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 4 条
-
r/LocalLLaMA 上关于 Qwen 3.8 量化与 UD 3.0 的争论
r/LocalLLaMA 上的一位用户质疑手动量化 Qwen 3.8 模型是否有价值,因为已经存在可能更优的量化方法,如 UD 3.0。该用户分享了自己量化版本的 Qwen 3.8,但怀疑其性能可能不如 UD 3.0 量化。
-
用户请求 Unsloth 使用 UD 3.0 重新量化 Qwen 模型
r/LocalLLaMA subreddit 上的一位用户请求 Unsloth 使用更新的 UD 3.0 量化方法重新量化 Qwen 模型。该用户强调 UD 3.0 在质量方面比 UD 2.0 有显著改进,将 Q3 UD 3.0 与 Q4 UD 2.0 进行比较。这将允许用户运行旧的 Qwen 模型,并获得最新量化技术的优势。
-
Qwen 3.8 27B KV 缓存精度影响性能,用户报告
Reddit r/LocalLLaMA 版块的一名用户报告称,Qwen 3.8 27B 模型的 KV 缓存精度对性能有显著影响,这与普遍的假设相反。该用户发现在长上下文的细节和记忆召回方面,KV 缓存的 F16 精度比 Q8_0 更好。这一观察是在使用 ROCm 在 AMD R9700 GPU 上通过 UD 3.0 框架进行测试时做出的。
-
Unsloth 发布 UD 3.0 以增强 LLM 性能
Unsloth 发布了 UD 3.0,这是大型语言模型技术的一项进步。此次更新侧重于动态内存和量化技术,以提高性能和效率。