Aleph Alpha 发布了 Kolibri,一个专为德语和英语设计的开源大语言模型。这个专家混合模型拥有 781 亿参数,每个 token 仅激活一小部分。Kolibri 在大约 24 万亿个 token 上进行了训练,其中很大一部分是德语,使用了位于德国和芬兰的 768 个 NVIDIA B200 GPU。该模型在 Apache 2.0 许可下可用,其权重可在 Hugging Face 上找到。 AI
影响 为德语和英语任务提供了一个新的开源大语言模型选项,可能加速这些领域的研发。
排序理由 Frontier-lab 模型发布,附带系统卡。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →