PulseAugur
中
实时 22:26:59
English(EN) Run a 35B to 180B LLM Without a GPU: VIDRAFT POCKET Passes 3.15 Million Downloads

VIDRAFT POCKET LLM 下载量突破 315 万，可在消费级硬件上实现无 GPU AI

作者 PulseAugur 编辑部 · [2 个来源] ·

VIDRAFT POCKET 的 GGUF 模型系列下载量已超过 315 万，使用户无需专用 GPU 即可在标准消费级硬件上运行大型语言模型。这些模型利用稀疏专家混合（sparse Mixture-of-Experts）架构，在 CPU 上实现可用速度，并兼容 llama.cpp、Ollama 和 LM Studio 等流行工具。基准测试显示，POCKET-35B 在 CPU 上的性能优于同等大小的模型，而 POCKET-Darwin-180B 等大型模型可以在内存充足的笔记本电脑上运行。 AI

影响 使强大的 LLM 在日常设备上具有更广泛的可访问性和私有使用性，有可能减少对基于云的 AI 服务的依赖。

排序理由 这是关于支持在消费级硬件上运行 LLM 的模型和工具的发布，而不是来自主要实验室的前沿模型发布。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

VIDRAFT POCKET LLM 下载量突破 315 万，可在消费级硬件上实现无 GPU AI

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
这是关于支持在消费级硬件上运行 LLM 的模型和工具的发布，而不是来自主要实验室的前沿模型发布。
Source corroboration
2 independent sources
Multiple independent publishers reporting the same story raises confidence that it's real and newsworthy.
Topics
model release, product
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
2 days old
Coverage has settled into its steady-state source set.

完整方法见我们的编辑标准。

报道来源 [2]

  1. dev.to — LLM tag TIER_1 Español(ES) · 김민식/학생 ·

    如何在没有 GPU 的情况下运行 35B 到 180B 的 LLM：VIDRAFT POCKET 下载量突破 315 万次

    <h2> Resumen </h2> <p>VIDRAFT POCKET es una familia de modelos GGUF que ejecuta modelos de lenguaje grandes en el hardware que ya tienes: un PC sin GPU, un portátil y, con las versiones para móvil, un iPhone o un Android. Funciona con <code>llama.cpp</code> estándar, Ollama, LM S…

  2. dev.to — LLM tag TIER_1 English(EN) · AI OpenFree ·

    无需GPU即可运行35B至180B大语言模型：VIDRAFT POCKET下载量突破315万

    <h2> TL;DR </h2> <p>VIDRAFT POCKET is a family of GGUF models that run large language models on hardware people already own: a PC with no GPU, a laptop, and (with the phone builds) an iPhone or Android device. It works with stock <code>llama.cpp</code>, Ollama, LM Studio and Pock…

相关实体

相关话题