Celrà

LiquidAI发布LFM3-1.7B模型以支持边缘设备

LiquidAI发布了LFM3-1.7B，这是一款专为边缘设备和专业应用设计的紧凑型语言模型。该模型经过优化，采用4位精度，内存占用低于1GB，支持256K token的上下文窗口，并经过Hermes Agent和Raspberry Pi等代理框架的后续训练。它适用于工具调用和结构化输出等任务，并提供了通过Transformers、vLLM和SGLang等库以及Docker进行集成的指导。