English(EN) Running a 180B-Parameter LLM on a Laptop Without a GPU: VIDRAFT's POCKET-Darwin-180B

VIDRAFT 发布可在消费级笔记本电脑上运行的 180B LLM

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-02 23:01

VIDRAFT 发布了 POCKET-Darwin-180B，这是其 1800 亿参数 Darwin-180B-RSI 模型的 4 位量化版本。该版本兼容 llama.cpp，可以通过利用稀疏专家混合路由和一种新颖的嫁接量化技术，在包括没有专用 GPU 的笔记本电脑在内的消费级硬件上运行。该模型的尺寸已从 360 GB 减至 111 GB，与传统的企业级 GPU 设置相比，能够以显著更低的硬件成本和系统 RAM 要求进行本地推理，同时据报道仍能保持基准准确性。 AI

影响使大型模型能够在消费级硬件上进行本地推理，降低了开发者的成本并提高了可访问性。

排序理由 Frontier-lab 模型发布，带有系统卡 [lever_c 从 frontier_release 降级：ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 3 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Significant; Frontier-lab 模型发布，带有系统卡 [lever_c 从 frontier_release 降级：ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: model release, infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · AI OpenFree · 2026-10-02 23:01

在笔记本电脑上运行 180B 参数 LLM 而无需 GPU：VIDRAFT 的 POCKET-Darwin-180B

<h1> Running a 180B-Parameter LLM on a Laptop Without a GPU: VIDRAFT's POCKET-Darwin-180B </h1> <blockquote> <p><strong>TL;DR:</strong> VIDRAFT has released POCKET-Darwin-180B, a 4-bit GGUF-quantized, llama.cpp-compatible build of their Darwin-180B-RSI frontier model that runs on…

本文如何被排名

报道来源 [1]

在笔记本电脑上运行 180B 参数 LLM 而无需 GPU：VIDRAFT 的 POCKET-Darwin-180B

相关实体

相关话题