Together AI 增强了其 GPU 集群,增加了专注于大规模 AI 工作负载的可靠性和运营控制的新功能。这些更新包括被动健康检查,用于在主动使用期间检测硬件和软件的降级;以及一个自动节点修复系统,该系统建议并执行诸如重启或重新配置故障节点之类的操作,关键任务需要人工监督。此外,Together AI 使用 Slinky 1.0 重建了其 Slurm-on-Kubernetes 堆栈,以提高作业调度的稳定性和弹性。 AI
影响 增强了 AI 训练和推理基础设施的运营稳定性。
排序理由 这是对现有服务的ョ品更新,并非新的前沿发布或重大的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →