SupraLabs 发布了 Supra2.5-65M,这是一个新的小型语言模型系列,包括基础版和指令微调版。这个拥有 6500 万参数的模型设计得非常高效,能够运行在最少的硬件上,并且据称比该实验室之前的 50M 和 100M 模型更好。训练在四天内使用两块 RTX A6000 GPU 在 1000 亿 token 数据集上本地完成,基准测试结果可在附图中查看。 AI
影响 为硬件资源有限的用户提供了一个新的、高效的小型模型选项。
排序理由 非前沿实验室发布新的小型语言模型。[lever_c_research降级:ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →