PulseAugur
实时 20:03:31
English(EN) Bonsai 27B (1-bit LLM): The First 27B-Class Model to Run on a Phone https://prismml.com/news/bonsai-27b # HackerNews # Tech # AI

PRISM 的 Bonsai 27B 大语言模型是首个能在手机上运行的27B级别模型

PRISM 开发了 Bonsai 27B,一个拥有270亿参数的语言模型,其显著之处在于它是首个能在此尺寸下在手机上运行的模型。这一成就意义重大,因为它展示了强大的AI模型在消费设备上高效运行的潜力,从而减少了对云端处理的需求。 AI

影响 使更强大的AI应用能够直接在移动设备上运行,减少对云基础设施的依赖。

排序理由 前沿实验室模型发布,附带系统卡。[lever_c_从前沿发布降级:ic=1 ai=1.0]

在 Mastodon — mastodon.social 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

PRISM 的 Bonsai 27B 大语言模型是首个能在手机上运行的27B级别模型

报道来源 [1]

  1. Mastodon — mastodon.social TIER_1 English(EN) · [email protected] ·

    Bonsai 27B (1-bit LLM): The First 27B-Class Model to Run on a Phone https://prismml.com/news/bonsai-27b # HackerNews # Tech # AI

    Bonsai 27B (1-bit LLM): The First 27B-Class Model to Run on a Phone https://prismml.com/news/bonsai-27b # HackerNews # Tech # AI