PulseAugur
实时 23:24:53
Deutsch(DE) NVIDIA quantisiert Kimi-K2.7-Code (DeepSeek-V3-Architektur, 1T/32B aktiv) via Model Optimizer auf NVFP4. Text/Bild/Video, 256k Kontext, Serving über vLLM auf B2

NVIDIA 为 NVFP4 硬件量化 Kimi-K2.7 代码

NVIDIA 已经针对其 NVFP4 硬件优化了基于 DeepSeek-V3 架构的 Kimi-K2.7 代码。此量化模型支持文本、图像和视频处理,拥有 256k 上下文窗口,并通过 B200 基础设施上的 vLLM 提供服务。评估显示其在 SWE-bench VerifiedTerminal-Bench 2.1 上表现强劲,尽管据报道其训练数据包含有毒内容。 AI

影响 在专用硬件上优化部署大上下文模型可以提高 AI 应用的效率。

排序理由 这是在现有代码基础上针对新硬件进行的优化和部署,并非新的模型发布或研究突破。

在 Mastodon — mastodon.social 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

NVIDIA 为 NVFP4 硬件量化 Kimi-K2.7 代码

报道来源 [1]

  1. Mastodon — mastodon.social TIER_1 Deutsch(DE) · aisyndicate ·

    NVIDIA quantizes Kimi-K2.7 code (DeepSeek-V3 architecture, 1T/32B active) via Model Optimizer on NVFP4. Text/Image/Video, 256k context, serving via vLLM on B2

    NVIDIA quantisiert Kimi-K2.7-Code (DeepSeek-V3-Architektur, 1T/32B aktiv) via Model Optimizer auf NVFP4. Text/Bild/Video, 256k Kontext, Serving über vLLM auf B200. Evaluierung: SWE-bench Verified, Terminal-Bench 2.1. Trainingsdaten enthalten toxische Inhalte. https:// huggingface…