StepFun发布了其Step-5-Preview-NVFP4模型的预览版,这是一个拥有6000亿参数的混合专家(MoE)架构,其中270亿参数处于激活状态。该新模型支持100万token的上下文窗口,并能处理文本、图像和视频输入。此次发布还引入了NVFP4量化技术,旨在提升在NVIDIA硬件上的推理性能。 AI
影响 此次发布提供了大的上下文窗口和MoE架构,有望提高处理复杂任务的效率和能力。
排序理由 Frontier-lab模型发布,附带系统卡。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →