LiquidAI 发布了 LFM2.5-2.6B,这是一款专为高效本地代理部署设计的新型语言模型。尽管体积小巧,该模型在工具使用和指令遵循等任务上展现出与规模大得多的模型相媲美的性能。LFM2.5-2.6B 利用了代理强化学习和扩展上下文窗口,在 CPU 和 GPU 上均实现了快速推理速度,使其适用于边缘设备上的高吞吐量工作负载。 AI
影响 为高吞吐量工作负载实现高效的设备端代理,可能加速边缘 AI 应用。
排序理由 LiquidAI 发布 Frontier-lab 模型,附带系统卡。[lever_c_demoted from frontier_release: ic=2 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →