Nota AI 发布了 Upstage 的 Solar Open2 250B 模型的 4 位量化版本,命名为 Solar Open2 250B — Nota NVFP4。新版本采用了 Nota AI 专有的量化技术,专门针对混合专家(MoE)大语言模型设计。运行此模型的一个关键要求是 NVIDIA Blackwell 架构,因为它利用了该系列中引入的 FP4 张量核心。 AI
影响 此次发布为特定硬件提供了一个高度压缩的模型,有可能在兼容系统上实现更高效的推理。
排序理由 发布了具有特定硬件要求和新颖量化技术的量化模型。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Trending Models 阅读 →
- Ada
- Ampere
- DREAM-MoE
- GB200
- Hopper
- Mixture-of-Experts (MoE)
- Nota AI
- NVIDIA Blackwell
- Solar Open2 250B
- Solar Open2 250B — Nota NVFP4
- SRA-MoE
- Upstage
- Upstage Solar License
- vLLM
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →