实体
UD-IQ3_XXS
UD-IQ3_XXS
PulseAugur coverage of UD-IQ3_XXS — every cluster mentioning UD-IQ3_XXS across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Qwen 3.8 27B 模型在 16GB GPU 上实现 100k-200k 上下文
用户已成功优化 Qwen 3.8 27B 模型，在消费级硬件上实现了显著更大的上下文窗口。一位用户通过使用 beellama.cpp 推理引擎和特定的 KV 缓存量化 (kvarn5/kvarn4) 在 16GB GPU 上实现了 100,000 token 的上下文窗口，生成速度为 47-50 tokens/秒。另一位用户报告称，在使用不同的量化方法 (UD-IQ3_XXS) 的类似 16GB 显存设置上，实现了超过 200,000…
-
Unsloth 支持本地运行 Kimi K3、DeepSeek-V4 Flash，并新增深度研究和并行聊天功能
Unsloth 发布了更新，支持使用 Unsloth Dynamic GGUFs 在本地运行 Moonshot AI 的 Kimi K3 和 DeepSeek-V4 Flash 模型。此次更新还引入了“深度研究”模式，允许本地模型进行规划、阅读、引用来源并生成报告。此外，Unsloth 现在支持并行聊天会话、改进的 AMD 和 Intel GPU 兼容性以及 DoRA 训练。