Moonshot AI 正在利用其 Kimi K3.1 Pro 模型,通过 llm-d,在张量处理单元 (TPU) 和图形处理单元 (GPU) 的组合上提供服务。该基础设施设置正通过 Mastodon 平台提供,这表明 AI 模型部署和访问的方式可能发生转变。 AI
影响 此次部署突显了服务 AI 模型的新颖基础设施选择,可能影响其他组织管理和分发其 AI 能力的方式。
排序理由 这是一个关于在特定硬件上部署 AI 模型,并通过社交媒体平台提供的公告,属于工具或基础设施类别,而非核心模型发布。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →