华为的 Kirin 9050 处理器旨在直接在设备上运行一个拥有 300 亿参数的混合专家(MoE)模型。这是通过每次推理仅激活 20 亿参数,利用更新的 Da Vinci NPU 和低比特量化来实现的。这种方法代表了华为的战略转变,通过稀疏执行来强调高效的芯片设计,以克服制造限制。 AI
影响 展示了复杂模型在设备上的 AI 能力,可能为更强大的移动 AI 应用提供支持。
排序理由 前沿实验室模型发布,附带系统卡 [lever_c 从 frontier_release 降级:ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →