PulseAugur
中
实时 07:48:29
English(EN) VIDRAFT POCKET: Running a 180B MoE Model on an 8 GB VRAM Laptop — 3.15M Downloads and Counting

VIDRAFT POCKET 发布面向消费级硬件的 180B MoE 模型

作者 PulseAugur 编辑部 · [1 个来源] ·

VIDRAFT POCKET 发布了一系列 1800 亿参数的混合专家模型 (MoE)，专为消费级硬件设计，包括显存仅为 8 GB 的笔记本电脑。这些模型使用 GGUF 格式和 llama.cpp、Ollama、LM Studio 等标准运行时，无需云依赖或修改软件。旗舰模型 POCKET-Darwin-180B 在 4 位量化下实现了 87.65% 的质量保留率，该系列模型在 Hugging Face 上的下载量已超过 315 万次。 AI

影响 使大型语言模型能够在消费级硬件上运行，可能使先进的 AI 功能的访问民主化。

排序理由 发布了专为消费级硬件设计的特定模型系列，而非大型实验室的前沿模型发布。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

VIDRAFT POCKET 发布面向消费级硬件的 180B MoE 模型

本文如何被排名

Signal score
54 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
发布了专为消费级硬件设计的特定模型系列，而非大型实验室的前沿模型发布。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
model release, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · AI OpenFree ·

    VIDRAFT POCKET：在 8 GB 显存笔记本上运行 180B MoE 模型 — 下载量达 315 万次且仍在增长

    <h1> VIDRAFT POCKET: Running a 180B MoE Model on an 8 GB VRAM Laptop — 3.15M Downloads and Counting </h1> <blockquote> <p><strong>TL;DR:</strong> VIDRAFT POCKET is a family of GGUF-format sparse Mixture-of-Experts models designed to run on consumer hardware — including CPU-only P…

相关实体

相关话题