LiquidAI 发布了 LFM2.5-230M，这是一款专为设备端部署设计的紧凑型语言模型。该模型拥有 2.3 亿参数，并针对包括 CPU 和边缘设备在内的各种硬件上的高效推理进行了优化，在智能手机上可达 213 tokens/秒，在树莓派 5 上可达 42 tokens/秒。由于通过强化学习进行了优化，并且拥有 19 万亿 token 的庞大训练预算，支持 32,768 token 的上下文长度，它特别适合代理任务。 AI
影响 使资源受限设备上的 AI 应用更具能力，有可能加速代理任务的设备端 AI 的普及。
排序理由 来自知名 AI 实验室 (LiquidAI) 的模型发布，具有详细的技术规格和性能指标。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
在 Hugging Face Trending Models 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
