POCKET-Darwin-180B
PulseAugur coverage of POCKET-Darwin-180B — every cluster mentioning POCKET-Darwin-180B across labs, papers, and developer communities, ranked by signal.
- 2026-10-02 product_launch VIDRAFT released POCKET-Darwin-180B, a compressed AI model that runs on consumer hardware. 来源
1 天有情绪数据
-
VIDRAFT 发布可在消费级笔记本电脑上运行的 180B LLM
VIDRAFT 发布了 POCKET-Darwin-180B，这是其 1800 亿参数 Darwin-180B-RSI 模型的 4 位量化版本。该版本兼容 llama.cpp，可以通过利用稀疏专家混合路由和一种新颖的嫁接量化技术，在包括没有专用 GPU 的笔记本电脑在内的消费级硬件上运行。该模型的尺寸已从 360 GB 减至 111 GB，与传统的企业级 GPU 设置相比，能够以显著更低的硬件成本和系统 RAM 要求进行本地推理，同时…
-
18B LLM通过4位量化在消费级笔记本上运行，实现本地推理
一种名为POCKET-Darwin-180B的新方法，可以在没有专用GPU的情况下，在消费级笔记本上运行一个拥有180亿参数的大型语言模型。这是通过4位GGUF量化实现的，将模型大小从360GB减少到111GB，使得使用大约1400美元的硬件即可进行本地推理。该开发还强调了对AI代码审查工具进行稳健测试的必要性，正如在同一段代码上对两家不同供应商的比较所示。
-
180B AI模型可在笔记本电脑上运行，位居排行榜前列
VIDRAFT发布了POCKET-Darwin-180B，这是其Darwin-180B-RSI模型的深度压缩版本，现可在笔记本电脑和迷你PC等消费级硬件上运行，无需专用GPU。该模型大小为111 GB，相比其原始的360 GB大小显著减小，但在Hugging Face七个排行榜上均保持了顶尖性能。该模型的效率归功于其Mixture-of-Experts架构和内存映射技术，使其能够满足数据隐私要求严格的组织的需求。