SparkLLM发布了Spark-X2.6-4B,这是一款专为设备端智能体和实际应用设计的新型紧凑型语言模型。该模型在Spark-X2.5-4B的基础上,通过增强的训练后能力,提升了在编码、智能体工作流、长上下文任务、多语言使用和推理方面的性能。Spark-X2.6-4B提供可控的推理水平,以平衡推理工作量、延迟和成本,并支持在RTX 4090和Mac M5 Pro等各种硬件和运行时上的设备端推理。 AI
影响 增强了设备端AI能力,特别是在智能体和编码任务方面,可能降低本地AI部署的门槛。
排序理由 带有系统卡的Frontier-lab模型发布。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
- Apache Software License 2.0
- llama.cpp
- Mac M5 Pro
- Mlx
- Ollama
- RTX 4090
- SGLang
- SparkLLM
- SparkLLM/Spark-X2.6-4B
- Spark-X2.6-4B
- tensorrt
- transformers
- vLLM
- XHToken/Spark-X2.6-4B
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →