autotrust/GEV-26B-Decide 模型基于 Gemma-4,发布了两个版本:标准的 bf16 模型和为 vLLM 优化的量化 NVFP4 版本。NVFP4 版本显著降低了内存需求,使其能够运行在 24GB GPU 上,并在 GPQA Diamond 和 HLE 等基准测试中保持与 bf16 版本相当的性能。该模型专为决策任务设计,具有自适应思考能力,仅在必要时进行推理,从而在 Nvidia B200 等硬件上实现快速推理。 AI
影响 NVFP4 量化为在更易获得的硬件上运行大型模型提供了一条途径,可能降低部署先进决策 AI 的门槛。
排序理由 发布具有量化细节和性能指标的特定模型版本。
在 Hugging Face Trending Models 阅读 →
- autotrust/GEV-26B-Decide
- Gemma 4 26B A4B IT
- Hugging Face
- JEV-27B-VL
- MuJoCo
- Nvidia B200
- Nvidia RTX Pro 6000 Blackwell Workstation Edition
- transformers
- autotrust/GEV-26B-Decide-NVFP4
- Gemma-4
- Google Colab
- Kaggle
- NVFP4
- Nvidia
- RTX 5090
- vLLM
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →