KubeRay
PulseAugur coverage of KubeRay — every cluster mentioning KubeRay across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
AWS 通过 EKS 上的新 Ray Train DLC 简化分布式 AI 训练
AWS 发布了用于 Ray Train 的新深度学习容器 (DLC)，简化了在 Amazon Elastic Kubernetes Service (EKS) 上进行分布式 AI 模型训练的过程。这些预构建的容器集成了 PyTorch、NCCL 和 Elastic Fabric Adapter (EFA) 库等关键组件，无需用户构建和管理复杂的训练环境。这些 DLC 设计用于与 KubeRay（一个开源 Kubernetes 运算符）…
-
Anyscale 详解 KubeRay 生产实践，实现 Kubernetes 上 Ray 的规模化扩展
这篇博客文章是 KubeRay 系列的第二篇，详细介绍了在 Kubernetes 上生产环境中运行 Ray 的最佳实践。它侧重于从单个作业扩展到跨多个团队和集群的数百个作业，解决了调试、硬件故障和默认设置调优等挑战。文章重点介绍了 GPU 共享、工作节点自动缩减至零以及使用 Kueue 进行公平资源分配等功能，并提供了一个生产环境 RayJob 配置的 YAML 示例。
-
Anyscale 和 Google Cloud 通过 Ray 实现 TPU 上的原生 PyTorch 支持
Anyscale 和 Google Cloud 已合作推出对 Google TPU 上的 PyTorch 的原生支持，利用 Ray 分布式计算框架。此集成允许机器学习团队通过单一 Kubernetes 控制平面管理跨 GPU 和 TPU 的分布式 PyTorch 训练和推理工作负载。新方法通过启用每 TPU 芯片一个工作程序的模型，简化了从 GPU 到 TPU 的迁移，该模型模仿了熟悉的 GPU 设置，并允许进行直接的代码调整。
-
Anyscale 发布 KubeRay，实现 Ray 与 Kubernetes 的无缝集成
Anyscale 发布了 KubeRay，这是一个开源的 Kubernetes Operator，旨在简化 Ray 工作负载的管理。KubeRay 弥合了 Kubernetes 原生资源管理与 Ray 用于扩展 Python 和 AI 应用程序的框架之间的差距。它引入了 RayCluster、RayJob 和 RayService 等自定义资源，为 Ray 部署提供 Kubernetes 原生的生命周期管理、自动扩展和可靠性。
-
Anyscale 为 Kubernetes 事后调试推出 Ray History Server
Anyscale 推出了 Ray History Server，这是一项旨在为在 Kubernetes 上运行的 Ray 集群提供事后可观测性的新功能。该工具解决了当集群是临时性的（即使用后即终止）时调试失败作业的挑战。History Server 从存储在对象存储中的遥测数据中重建 Ray Dashboard 界面，使用户即使在集群关闭后也能访问日志、任务状态和错误跟踪。此功能目前在 KubeRay v1.7 中处于测试阶段，包括一…
-
Anyscale 推出 GPU 健康可观测性以诊断硬件故障
Anyscale 已推出其 GPU 健康可观测性工具的私有预览版，旨在弥合 GPU 集群中应用级故障与底层硬件问题之间的差距。这一新的可观测性层与 KubeRay 和 Kubernetes 集成，将 XID 错误和 ECC 内存计数等关键硬件信号与正在 GPU 上运行的特定 Ray 作业和工作区相关联。此前，诊断硬件故障需要手动关联来自不同工具的数据，导致工程时间大量损失。
-
KubeRay v1.6 和 v1.7 通过 History Server 和安全性增强 Kubernetes 上的 Ray
Anyscale 发布了 KubeRay 1.6 和 1.7 版本，为在 Kubernetes 上运行 Ray 框架带来了重大增强。这些更新包括 History Server 的 Beta 版本，用于访问已删除 Ray 集群的日志和事件；改进的安全功能，如 NetworkPolicy 支持和自动 mTLS 证书管理；以及 RayService 在增量升级和回滚能力方面的进步。这些版本还为 RayJob 和 RayCluster 带来了…
-
Anyscale Connect 集成 Kubernetes Ray 部署
Anyscale 推出了 Anyscale KubeRay Connect，这是一款旨在将 Anyscale 平台与现有 Kubernetes Ray 部署集成的新产品。该新产品允许用户在利用 Anyscale 的可观测性和编排功能的同时，继续维护其现有的 KubeRay operator 及相关工具（如 Kueue 和 Argo CD）。Connect 产品通过在准入时将轻量级 sidecar 注入现有的 KubeRay 规范，从而…
-
AWS SageMaker HyperPod 集成新 Ray 功能以进行基础模型训练
Amazon SageMaker HyperPod 现在提供与开源 Ray 框架的增强集成，简化了基础模型的训练和部署过程。此更新允许数据科学家直接在 SageMaker Studio 中管理 Ray 集群，无需手动配置 Kubernetes 和复杂的命令行操作。该集成提供了自动容错、通过分层检查点更快地恢复作业，以及对仪表板和模型权重的简化访问。
-
Ray 2.55 为分布式 Python 工作负载增加了 Google Cloud TPU 支持
Ray 发布了 2.55 版本，现已包含对 Google Cloud TPU 的官方支持。此次更新允许开发者通过 Ray 现有的 API 在 TPU 上执行分布式 Python 工作负载。KubeRay 通过自动化多主机切片的配置，进一步简化了集成。