SKT发布了A.X K2，一个大规模的混合专家（MoE）语言模型。该模型拥有总计6880亿参数，其中330亿为激活参数，旨在提供强大的推理和指令遵循能力，同时保持高效的推理速度。一个关键特性是其混合推理控制，允许用户在用于复杂问题解决的“思考”模式和用于更快、更低延迟响应的“非思考”模式之间进行选择。A.X K2作为韩国政府一项倡议的一部分而开发，目标是成为一个具有深刻理解韩国语言和文化的前沿规模模型。 AI
影响 该模型的混合推理控制可以通过允许用户平衡响应质量与延迟，从而实现更高效和适应性更强的AI应用。
排序理由 前沿实验室模型发布，附带系统卡。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
在 Hugging Face Trending Models 阅读 →
- A.X K2
- Docker Model Runner
- Google Colab
- Kaggle
- mixture of experts
- SGLang
- skt/A.X-K2
- transformers
- vLLM
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
