Liquid AI 发布了其 LFM2.5-24B-A2B 模型，这是一个拥有 240 亿参数的混合专家模型，每个 token 仅使用 24.5 亿参数。这种架构允许更快的解码速度，Liquid 报告称在 Apple M5 Max 上可达 184 tokens/s。尽管参数效率高，但完整模型仍需要大约 14.5 GB 的 RAM 来存储。该模型在指令遵循和工具调用任务方面表现出色，在这些领域优于 Qwen3.6-35B-A3B 等竞争对手，但在知识型基准测试中表现落后。 AI
影响 该模型高效的参数使用可能会影响未来边缘设备的 LLM 架构，但高 RAM 需求仍然是一个限制因素。
排序理由 文章详细介绍了特定混合专家 LLM 的本地执行和性能特征，重点关注实际使用和硬件要求。
- Apple M5 Max
- Gemma-4-26B-A4B-it
- GGUF
- LFM2-24B-A2B
- LFM2.5-24B-A2B
- LFM2.5-VL-3B
- Liquid AI
- llama.cpp
- Ollama
- Qwen3.6-35B-A3B
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
