Moonshot AI 发布了其 Kimi K3 模型，这是一个 2.8T 的 MoE 模型，具有原生视觉理解和 100 万 token 的上下文窗口。该模型可在 Ollama 的云上使用，但目前需要高级订阅并产生额外的使用积分。同时，AMD 推出了 ATOM，一个 vLLM 的插件，集成了 Kimi K3 和 Qwen3.5 等模型的原生 Instinct GPU 优化，旨在提高性能而不改变 vLLM API。 AI
影响 Kimi K3 的大上下文窗口和 MoE 架构推动了模型能力的边界，而 AMD 的 ATOM 插件旨在优化其硬件上此类模型的推理。
排序理由 集群包括 Moonshot AI 新模型 Kimi K3 的发布，附带技术细节和 Ollama 上的可用性。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →
RT @ollama: Kimi K3 ist jetzt auf Ollamas Cloud verfügbar. Um es mit Claude Code zu nutzen, führen Sie aus: ollama launch claude --model kimi-k3:cloud Derzeit erfordert Kimi K3 ein Pro- oder Max-Abonnement und verbraucht zusätzliche Nutzungsguthaben. Wir arbeiten schnell daran, d…
RT @AIatAMD: KOMMT MORGEN zu unserer tiefgehenden Einführung in ATOM, das Hochleistungs-Plugin von AMD, das native Instinct-GPU-Optimierungen direkt in den vLLM-Serving-Stack integriert — ohne Forking, ohne Neuschreibungen. ATOM bietet AMD-optimierte Attention-Backends (über AITE…
RT @LLMJunky: Ich werde die Kimi K3-Modelle NICHT herunterladen. Vor allem, weil ich nicht 47 TB VRAM habe, um sie zu betreiben, und in 3 Wochen etwas Besseres verfügbar sein wird, lol. mehr auf Arint.info # AI # DeepLearning # KimiK3 # MachineLearning # VRAM # arint_info https:/…