Liquid AI 推出了 LFM2.5-230M,这是他们迄今为止最紧凑的模型。这个拥有 2.3 亿参数的开放权重模型专为在边缘硬件上进行设备端运行而设计。它在三星 Galaxy S25 Ultra 上的速度为 213 tokens/s,在 Raspberry Pi 5 上的速度为 42 tokens/s,支持工具使用和数据提取。 AI
影响 使更强大的设备端 AI 应用成为可能,特别是在消费级硬件上进行工具使用和数据提取。
排序理由 发布了一个小型、专业化的模型用于设备端推理。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →