Hugging Face 上一个新的仓库提供了 Qwen3.8-Flash-Next 模型的量化版本,特别关注 ISTA 的深度算法与系统实验室开发的 GSQ-RCO 量化。此版本包含一个名为 'Strata' 的控制向量,通过从其残差流中减去特定方向来修改模型在运行时行为,旨在减少拒绝。该仓库提供了在消费级 GPU 上使用 Strata 引擎运行这些模型的说明,详细说明了硬件要求和设置命令。 AI
影响 通过修改拒绝倾向,能够在消费级硬件上对模型行为进行微调。
排序理由 发布了一个带有特定控制向量用于运行时修改的量化模型。
在 Hugging Face Trending Models 阅读 →
- alesha-pro/Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata-GGUF
- AMD
- Hugging Face
- Huihui
- ISTA-DASLab
- Nvidia
- Qwen3.8-Flash-Next
- RTX 3090
- Strata
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →