VIDRAFT 的 POCKET-35B 是一款拥有350亿参数的设备端大型语言模型,发布仅七周,在 Hugging Face 上的下载量已超过100万。该模型专为在无需专用GPU的消费级硬件上运行而设计,利用 GGUF 格式实现高效的 CPU 推理。这一快速的普及标志着它成为达到此下载里程碑速度最快的韩国AI模型,表明了对离线和注重隐私的AI解决方案的强烈兴趣。 AI
影响 加速了强大、本地运行的AI模型趋势,赋能消费级硬件上的离线和注重隐私的应用。
排序理由 来自一家代工公司的设备端 LLM 发布,下载量指标显著。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →