LiquidAI发布了LFM3-1.7B,这是一款专为边缘设备和专业应用设计的紧凑型语言模型。该模型经过优化,采用4位精度,内存占用低于1GB,支持256K token的上下文窗口,并经过Hermes Agent和Raspberry Pi等代理框架的后续训练。它适用于工具调用和结构化输出等任务,并提供了通过Transformers、vLLM和SGLang等库以及Docker进行集成的指导。 AI
影响 这款紧凑型模型有望在边缘设备和本地专业代理上实现更复杂的AI应用。
排序理由 该集群描述了一个特定AI模型的发布及其技术细节,包括使用各种工具和库的说明。
在 Hugging Face Daily Papers 阅读 →
- Celrà
- Conditional Expected Local Radius
- conditional profile score method
- metric distributional random forest
- Metric spaces and positive definite functions
- Docker
- Hermes Agent
- Hugging Face
- LiquidAI
- LiquidAI/LFM3-1.7B
- Raspberry Pi
- SGLang
- Transformers
- vLLM
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →