PulseAugur
中
实时 10:56:17
English(EN) Running Inkling 2 Mini Locally & on vLLM: 26.4B Looped MoE, 1M Context & B200 PR #69104 Notes

Thinking Machines Lab 发布了具有 1M 上下文的 Inkling 2 Mini

Thinking Machines Lab 发布了 Inkling 2 Mini,这是一个 264 亿参数的多模态 Looped Mixture-of-Experts 模型,专为在消费级硬件上本地部署而设计。该模型支持 100 万 token 的上下文窗口,并提供各种量化格式,包括用于 CPU 和 Apple Silicon 推理的 GGUF。部署说明强调了针对 NVIDIA Blackwell B200 GPU 的特定优化以及与 vLLM 的兼容性,并提供了托管推理的 API 定价。 AI

影响 使得先进的多模态模型能够在消费级硬件上本地部署,从而可能降低推理成本并提高可访问性。

排序理由 来自具有特定模型名称和版本的实验室的模型发布。[lever_c_demoted from frontier_release: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Thinking Machines Lab 发布了具有 1M 上下文的 Inkling 2 Mini

本文如何被排名

Signal score
81 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Significant
来自具有特定模型名称和版本的实验室的模型发布。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
model release, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Tech Workflow Hub ·

    在 vLLM 上本地运行 Inkling 2 Mini:26.4B Looped MoE、1M 上下文和 B200 PR #69104 说明

    <p><strong>Thinking Machines Lab</strong> released <strong>Inkling 2 Mini</strong> on November 20, 2026 under an <strong>Apache 2.0</strong> license—built specifically as a multimodal (text + image) looped Mixture-of-Experts (MoE) model for laptops, MacBooks, and local GPU rigs.<…