PulseAugur
实时 07:01:53
English(EN) Liquid AI Ships LFM2.5-230M with llama.cpp, MLX, vLLM, SGLang, and ONNX Support for On-Device Inference

Liquid AI 推出小型 LFM2.5-230M 用于设备端代理任务

Liquid AI 发布了其迄今为止最小的模型 LFM2.5-230M,专为手机和机器人等边缘设备的端侧推理而设计。这个拥有 2.3 亿参数的模型在数据提取和工具使用方面表现出色,在 IFEval 和 IFBench 等特定基准测试中优于更大的模型。虽然不适合数学或编码等复杂推理任务,但其小巧的体积和高效的架构使其能够快速推理,非常适合本地数据处理和轻量级代理工作负载。 AI

影响 使边缘设备能够直接运行更强大的 AI 代理和数据处理,减少对云基础设施的依赖。

排序理由 发布了一款小型、专业化的模型,专注于设备端推理和特定任务,而非前沿模型发布。

在 MarkTechPost 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Liquid AI 推出小型 LFM2.5-230M 用于设备端代理任务

报道来源 [1]

  1. MarkTechPost TIER_1 English(EN) · Asif Razzaq ·

    Liquid AI Ships LFM2.5-230M with llama.cpp, MLX, vLLM, SGLang, and ONNX Support for On-Device Inference

    <p>Liquid AI released LFM2.5-230M, its smallest model yet. The 230M-parameter, open-weight model runs on-device at 213 tok/s on a Galaxy S25 Ultra and 42 on a Raspberry Pi 5. Built on the LFM2 architecture, it targets tool use and data extraction, beating larger models like Qwen3…