Together AI 推出了 Inkling,这是由 Thinking Machines Lab 开发的多模态混合专家(MoE)模型。该开放权重模型拥有 9750 亿总参数和 410 亿激活参数,100 万 token 的上下文窗口,并原生支持文本、图像和音频输入。Inkling 通过 Together 的 FlashAttention-4 内核进行了优化,以实现高效推理,现在可通过 Together Serverless Inference 访问。 AI
影响 这款拥有大型上下文窗口和原生多模态理解能力的多模态 MoE 模型有望为高效推理和复杂任务处理设定新的基准。
排序理由 前沿实验室模型发布,附带系统卡。
在 X — Together (inference / OSS) 阅读 →
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →