PulseAugur
中
实时 06:55:20
English(EN) Running a 180B-Parameter MoE Model on a Gaming Laptop: VIDRAFT's POCKET-Darwin-180B-GGUF

180B AI 模型通过 MoE 和 SSD 流式传输在游戏本上运行

作者 PulseAugur 编辑部 · [2 个来源] ·

VIDRAFT 发布了 POCKET-Darwin-180B，这是一款拥有 1800 亿参数的 AI 模型，专为包括游戏本在内的消费级硬件部署而设计。该模型利用稀疏专家混合（MoE）架构、SSD 流式传输和 llama.cpp 运行时，使其能够以显著降低的内存需求运行。该模型的主要用例是在无法使用基于云的 AI 解决方案的隔离网络或受监管环境中。 AI

影响 使得在隔离网络或资源受限环境中部署大型模型成为可能，将 AI 可访问性扩展到云基础设施之外。

排序理由 这是针对特定部署场景优化的模型变体发布，而非主要实验室的核心前沿模型发布。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

180B AI 模型通过 MoE 和 SSD 流式传输在游戏本上运行

本文如何被排名

Signal score
1 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
这是针对特定部署场景优化的模型变体发布，而非主要实验室的核心前沿模型发布。
Source corroboration
2 independent sources
Multiple independent publishers reporting the same story raises confidence that it's real and newsworthy.
Topics
model release, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
1 days old
Coverage has settled into its steady-state source set.

完整方法见我们的编辑标准。

报道来源 [2]

  1. dev.to — LLM tag TIER_1 English(EN) · AI OpenFree ·

    在游戏笔记本上运行180B模型：POCKET-Darwin-180B

    <h2> TL;DR </h2> <p>VIDRAFT released POCKET-Darwin-180B, a 180B-parameter model that runs on a consumer gaming laptop with 8GB of VRAM and 32GB of system memory. It uses a sparse Mixture-of-Experts design, SSD streaming, and the llama.cpp runtime. The point is not to beat a cloud…

  2. dev.to — LLM tag TIER_1 English(EN) · AI OpenFree ·

    在游戏本上运行 180B 参数 MoE 模型：VIDRAFT 的 POCKET-Darwin-180B-GGUF

    <h1> Running a 180B-Parameter MoE Model on a Gaming Laptop: VIDRAFT's POCKET-Darwin-180B-GGUF </h1> <blockquote> <p><strong>TL;DR:</strong> VIDRAFT has released POCKET-Darwin-180B-GGUF, a 4-bit quantized, GGUF-format version of their 180B Mixture-of-Experts model that runs on con…

相关实体

相关话题