新一代三元LLM“Ternary Bonsai 2”系列已发布,参数规模分别为2B、4B和9B。这些模型能够在 iPhone 上实现每秒高达120个token的处理速度。这一发展标志着在实现更高效、更易于访问的大型语言模型方面迈出了重要一步。 AI
影响 为更快、更高效的设备端AI处理提供了潜力。
排序理由 发布具有特定性能指标的新LLM系列。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →