PulseAugur
实时 23:04:42
English(EN) New in Together GPU Clusters: Reliability and control for production GPU clusters

Together AI 通过自动修复和 Slinky 1.0 提高 GPU 集群的可靠性

Together AI 增强了其 GPU 集群,增加了专注于大规模 AI 工作负载的可靠性和运营控制的新功能。这些更新包括被动健康检查,用于在主动使用期间检测硬件和软件的降级;以及一个自动节点修复系统,该系统建议并执行诸如重启或重新配置故障节点之类的操作,关键任务需要人工监督。此外,Together AI 使用 Slinky 1.0 重建了其 Slurm-on-Kubernetes 堆栈,以提高作业调度的稳定性和弹性。 AI

影响 增强了 AI 训练和推理基础设施的运营稳定性。

排序理由 这是对现有服务的ョ品更新,并非新的前沿发布或重大的行业事件。

在 Together AI blog 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Together AI 通过自动修复和 Slinky 1.0 提高 GPU 集群的可靠性

报道来源 [1]

  1. Together AI blog TIER_1 English(EN) ·

    New in Together GPU Clusters: Reliability and control for production GPU clusters

    See how Together AI is improving production GPU clusters with passive health checks, node repair, stronger Slurm reliability, OIDC, and startup scripts.