NVIDIA 已经针对其 NVFP4 硬件优化了基于 DeepSeek-V3 架构的 Kimi-K2.7 代码。此量化模型支持文本、图像和视频处理,拥有 256k 上下文窗口,并通过 B200 基础设施上的 vLLM 提供服务。评估显示其在 SWE-bench Verified 和 Terminal-Bench 2.1 上表现强劲,尽管据报道其训练数据包含有毒内容。 AI
影响 在专用硬件上优化部署大上下文模型可以提高 AI 应用的效率。
排序理由 这是在现有代码基础上针对新硬件进行的优化和部署,并非新的模型发布或研究突破。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →