实体
IQ3_XXS
IQ3_XXS
PulseAugur coverage of IQ3_XXS — every cluster mentioning IQ3_XXS across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
量化后的 Qwen3.8-27B 模型在 16GB GPU 上生成复杂光学模拟
一位用户在 16 GB Quadro GPU 上成功运行了 Qwen3.8-27B-IQ3_XXS 模型，生成了复杂的多层光学模拟。该过程耗时近 100 分钟，涉及大量的 token 生成和模型压缩。尽管存在硬件限制，该模型仍正确实现了光学传输矩阵方法，尽管它花费了大量时间调试自己的验证代码。
-
Qwen3.8 27B 模型在初步失败后成功运行流体模拟
Reddit 的 r/LocalLLaMA 版块的一位用户分享了他们使用 Qwen3.8 27B 模型和 IQ3_XXS 量化进行流体模拟任务的经验。尽管初步失败，模型在第二次尝试后最终成功，并在 42 分钟内完成了模拟。用户指出 GPT 5.6 Sol 在第一次尝试时也未能完成任务，这表明当前模型在复杂模拟方面可能存在局限性。
-
本地 LLM 优化：Step-3.7-Flash 速度提升 2.4 倍，MTP 破坏视觉
一位开发者已针对本地硬件优化了 Step-3.7-Flash (198B-A11B vision MoE) 模型，取得了显著的性能提升。通过确保模型最大的量化 (IQ3_XXS) 完全驻留在四块 3090 GPU 的 96GB VRAM 中，他们观察到与溢出数据到 CPU 的更高量化 (IQ4_XS) 相比，速度提升了 2.4 倍。此外，开发者发现模型的推测解码功能 (MTP) 与其视觉能力不兼容，在处理图像 token 时会导致硬中止。