XingChen-AGI 发布了 Xing 系列(前身为 TeleChat)的新大型语言模型 Xing4.0-29B-A4B。该模型拥有 290 亿参数,但每个 token 仅激活 40 亿参数,实现了 256K 的原生上下文长度,可扩展至 512K。值得注意的是,该模型完全在 Ascend NPU 平台上使用 MindSpore 框架进行训练,并针对复杂的工程任务进行了优化,采用了面向代理的架构,并与 Ascend 硬件进行了深度协同优化,显著提高了训练效率。 AI
影响 该模型广泛的上下文长度和针对工程任务的优化,可能会加速其在需要深入分析长文档或代码库的专业领域的应用。
排序理由 来自知名 AI 实验室 (XingChen-AGI) 的模型发布,包含详细的技术规格和兼容性信息。[lever_c_demoted from frontier_release: ic=2 ai=1.0]
在 Hugging Face Trending Models 阅读 →
- Ascend NPU
- Docker Model Runner
- Google Colab
- Hugging Face
- Kaggle
- KTransformers
- MindSpore
- OpenAI
- SGLang
- transformers
- vLLM
- XingChen-AGI
- XingChen-AGI/Xing4.0-29B-A4B
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →