Together AI 已在其 GPU Clusters 上推出可抢占式计算的公开预览版,支持 Kubernetes。这项新服务允许用户以按需价格的一半获得相同的 GPU 基础设施,适用于短实验、推理爆发和批处理作业等容忍中断的任务。可抢占式节点按小时内计费,并可在五分钟通知后被重新收回,因此适合可以检查点或重试的工作负载。 AI
影响 降低了运行 AI 工作负载的成本,有可能加速 Together AI 平台用户的实验和推理。
排序理由 这是来自 AI 基础设施提供商的新产品,而非前沿模型发布或核心研究。
- GLM5.3 Flash
- Kubernetes
- Nvidia
- PyTorch Lightning
- Ray Train
- SIGTERM
- Together AI
- Together GPU Clusters
- TogetherPreempted
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →