PulseAugur
中
实时 12:28:22
实体 Ray

Ray

PulseAugur coverage of Ray — every cluster mentioning Ray across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
18
90 天内 62
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
关系
时间线
  1. 2026-11-06 product_launch Ray Korea has launched, aiming to foster collaboration within the open-source community. 来源
  2. 2026-10-20 product_launch Anyscale announced the formation of a Special Interest Group (SIG) for Ray on Accelerators. 来源
  3. 2026-10-20 product_launch Anyscale and Google Cloud announced native support for PyTorch on Google TPUs using the Ray framework. 来源
  4. 2026-08-25 product_launch Anyscale announced the integration of native sandboxing capabilities into the Ray framework. 来源
  5. 2026-08-23 product_launch Ray version 2.58 was released, introducing KV cache routing. 来源
  6. 2026-08-19 research_milestone Anyscale details critical vulnerability CVE-2025-62593 in Ray, patched in version 2.52.0. 来源
  7. 2026-07-20 product_launch Ray released version 2.55 with official Google Cloud TPU support. 来源
  8. 2026-06-09 product_launch Luma Labs released version 3.2 of its Ray platform. 来源
  9. 2026-05-22 partnership Anyscale's Ray framework is joining the PyTorch Foundation. 来源
情绪 · 30 天

10 天有情绪数据

LAB BRAIN
hypothesis resolved confirmed 置信度 0.60

Ray Ecosystem to See Increased Integration with Specialized ML Libraries

The detailed example of integrating Ray with Optuna and MLflow for hyperparameter tuning suggests a growing trend. We hypothesize that Ray will see further integrations with specialized ML libraries and frameworks, enabling more robust and streamlined end-to-end MLOps pipelines.

observation resolved confirmed 置信度 0.75

Ray's TPU Support Accelerates Cloud-Native AI Development

The recent addition of Google Cloud TPU support in Ray 2.55, coupled with KubeRay's automated provisioning, indicates a significant push towards making complex AI workloads more accessible and efficient on major cloud platforms. This integration lowers the barrier for developers to leverage specialized hardware for distributed training and inference.

hypothesis expired 置信度 0.70

Anyscale's Resource Isolation to Drive Enterprise Adoption of Ray

Anyscale's new Resource Isolation feature, which improves stability and performance for intensive AI workloads, is likely to be a key driver for increased enterprise adoption of Ray. By mitigating common failure points and improving resource utilization, this feature addresses critical concerns for production AI deployments.

查看全部假设 →

最近 · 第 1/4 页 · 共 66 条
  1. TOOL · CL_366324 ·

    新的LoCoJAX框架提高了TPU上小模型强化学习的效率

    研究人员开发了LoCoJAX,一个旨在提高TPU上小模型强化学习效率的新框架。研究发现,现有的基于Pathways的强化学习模型在处理小模型时会产生显著的协调开销,对于一个0.6B参数的模型,主机编排会消耗36%的步进时间。LoCoJAX通过在每个TPU主机上实现本地rollout和奖励处理来解决这个问题,与Qwen3-0.6B上的优化Pathways基线相比,速度提高了1.3-3.6倍。对Ray管理的分解模式进行的进一步实验表明,当…

  2. TOOL · CL_363278 ·

    Anyscale 的 Ray Train 增加了可观测性以解决 GPU 饥饿问题

    Anyscale 在其 Ray Train 框架中引入了新的可观测性功能,以帮助开发人员诊断和解决模型训练期间的 GPU 饥饿问题。这些工具与 Ray Data 集成,提供数据加载管道每个阶段的详细指标。通过可视化这些指标(通常通过 Grafana 仪表板),用户可以识别数据准备中的瓶颈,例如上游管道缓慢或繁重的预处理,这些都会导致 GPU 空闲并减慢训练速度。

  3. TOOL · CL_354847 ·

    Anyscale 使用 Ray 加速 JEPA 机器人推理

    Anyscale 开发了一个使用 Ray 的系统,用于加速机器人领域 JEPA 世界模型架构的实时推理。V-JEPA2-AC 模型之前在抓取和放置任务中成功率可达 65-80%,但规划时间长达 16 秒/动作。通过将推理卸载到拥有更强大 GPU(如 NVIDIA A100)的 Ray 集群,Anyscale 显著缩短了规划时间,从而实现了更快、更连续的机器人运行。

  4. COMMENTARY · CL_353211 ·

    MLOps 深度解析:GPU 限制、DataParallel 与 DDP 对比,以及分布式训练工具

    本文深入探讨了机器学习模型分布式训练的复杂性,特别关注使用两块 GPU 的限制和细微差别。文章解释了为何简单的两块 GPU 设置并不等同于两条独立的处理通道,并讨论了 PyTorch 中 DataParallel 和 DistributedDataParallel (DDP) 之间的权衡。此外,文章还提到了在 MLOps 背景下,对高效数据处理和通信策略的需求,并引用了 khorovod、DeepSpeed、Ray 和 Kuberne…

  5. TOOL · CL_349469 ·

    vLLM 0.33.0 要求使用 CUDA 13,采用 Model Runner V2,并提升速度

    vLLM 发布了 0.33.0 版本,引入了重大变更,需要用户注意以确保顺利升级。该版本强制要求使用 CUDA 13.0,不再支持旧版本,并需要更新驱动程序。一个主要变化是完全采用 Model Runner V2 作为默认执行引擎,集成了自动 KV 缓存大小调整和批次分片采样等功能。虽然该版本移除了对 Medusa、MLP 预测器和旧版 Ray 执行器的支持,但通过调度器优化,它也带来了显著的性能提升,在不改变底层内核的情况下,输出令…

  6. TOOL · CL_351072 ·

    Anyscale 将 KubeRay 捐赠给 CNCF,将 PARK 技术栈统一到 Linux 基金会旗下

    Anyscale, Inc. 已将其 KubeRay 项目捐赠给云原生计算基金会 (CNCF)。KubeRay 作为用于分布式 AI 工作负载的 Ray 框架与用于计算编排的 Kubernetes 之间的桥梁。此举将 KubeRay 置于 Linux 基金会的治理之下,与新兴的“PARK 技术栈”(PyTorch、AI 模型、Ray、Kubernetes)的其他组件一起,旨在为开发者提供更大的中立性和开放性。

  7. TOOL · CL_344798 ·

    Ray Korea 启动,以促进开源 MLOps 社区

    Ray Korea 已正式启动,标志着开源社区扩张的重要一步。该倡议旨在促进韩国开发人员社区内的协作和专业知识共享。此次启动表明该地区对分布式计算框架和 MLOps 实践的兴趣日益浓厚。

  8. TOOL · CL_341208 ·

    Ray Serve 通过自动扩缩容和多模型支持简化 AI 模型部署

    Ray Serve 是一个分布式计算框架,旨在简化和扩展 AI 模型的部署,特别是针对复杂的推理管道。它构建在 Ray 框架之上,通过提供强大的自动扩缩容、多模型管理和 Pythonic API,相比 Ollama 或自定义 FastAPI 后端等更简单的解决方案具有优势。Ray Serve 可以处理顺序、并行和多步推理模式,使其适用于大规模、多节点的 AI 服务需求。

  9. TOOL · CL_328608 ·

    AWS 通过 EKS 上的新 Ray Train DLC 简化分布式 AI 训练

    AWS 发布了用于 Ray Train 的新深度学习容器 (DLC),简化了在 Amazon Elastic Kubernetes Service (EKS) 上进行分布式 AI 模型训练的过程。这些预构建的容器集成了 PyTorch、NCCL 和 Elastic Fabric Adapter (EFA) 库等关键组件,无需用户构建和管理复杂的训练环境。这些 DLC 设计用于与 KubeRay(一个开源 Kubernetes 运算符)…

  10. TOOL · CL_321665 ·

    Olud Pulse:Ray引领ML框架,n8n领跑低代码AI构建器

    Olud Pulse,一个追踪开源AI工具采用率的工具,发布了其最新评分。该数据从GitHub、Docker、PyPI和npm汇编而成,显示Ray在ML框架和MLOps领域表现最佳,得分为75/100。在低代码AI构建器类别中,n8n以80/100的得分领先。

  11. TOOL · CL_326765 ·

    Anyscale 详解 KubeRay 生产实践,实现 Kubernetes 上 Ray 的规模化扩展

    这篇博客文章是 KubeRay 系列的第二篇,详细介绍了在 Kubernetes 上生产环境中运行 Ray 的最佳实践。它侧重于从单个作业扩展到跨多个团队和集群的数百个作业,解决了调试、硬件故障和默认设置调优等挑战。文章重点介绍了 GPU 共享、工作节点自动缩减至零以及使用 Kueue 进行公平资源分配等功能,并提供了一个生产环境 RayJob 配置的 YAML 示例。

  12. TOOL · CL_321426 ·

    使用 Ray 扩展机器学习:从单 GPU 到分布式训练

    本文讨论了使用为分布式计算设计的框架 Ray 来扩展机器学习模型。它涵盖了在单个 GPU 不足以进行模型训练和服务时,分发工作负载和选择适当方法的策略。重点是处理更大规模机器学习任务的 MLOps 的实用方法。

  13. TOOL · CL_311219 ·

    Anyscale 推出 Ray 加速器 SIG 以优化 AI 工作负载

    Anyscale 宣布成立一个特别兴趣小组 (SIG),专注于优化 Ray 分布式计算框架在 GPU 和 TPU 等加速器上的使用。该倡议旨在促进开发者与硬件供应商之间的协作,以提高在专用硬件上运行的 AI 和机器学习工作负载的性能和效率。SIG 将促进讨论和开发工作,以确保 Ray 有效地利用现代加速器的强大功能。

  14. TOOL · CL_311218 ·

    Anyscale 和 Google Cloud 通过 Ray 实现 TPU 上的原生 PyTorch 支持

    Anyscale 和 Google Cloud 已合作推出对 Google TPU 上的 PyTorch 的原生支持,利用 Ray 分布式计算框架。此集成允许机器学习团队通过单一 Kubernetes 控制平面管理跨 GPU 和 TPU 的分布式 PyTorch 训练和推理工作负载。新方法通过启用每 TPU 芯片一个工作程序的模型,简化了从 GPU 到 TPU 的迁移,该模型模仿了熟悉的 GPU 设置,并允许进行直接的代码调整。

  15. TOOL · CL_300145 ·

    Anyscale 发布 KubeRay,实现 Ray 与 Kubernetes 的无缝集成

    Anyscale 发布了 KubeRay,这是一个开源的 Kubernetes Operator,旨在简化 Ray 工作负载的管理。KubeRay 弥合了 Kubernetes 原生资源管理与 Ray 用于扩展 Python 和 AI 应用程序的框架之间的差距。它引入了 RayCluster、RayJob 和 RayService 等自定义资源,为 Ray 部署提供 Kubernetes 原生的生命周期管理、自动扩展和可靠性。

  16. TOOL · CL_295891 ·

    Anyscale 将托管 Ray 引入 Azure Kubernetes Service

    Anyscale 提供了一项托管 Ray 服务,可以在客户的 Azure Kubernetes Service (AKS) 集群内运行。此集成允许用户直接在其现有的 Azure 基础设施内利用 Ray 的分布式计算能力。设置涉及仅出口运算符、用于身份验证的 Entra ID,以及网络和 Private Link 的注意事项。

  17. RESEARCH · CL_295606 ·

    通过量化、内存、并行和调度探索 LLM 推理效率

    研究人员正在探索各种方法来提高大型语言模型 (LLM) 推理的效率和可扩展性。一种方法侧重于通过量化技术实现能源效率,在精度损失极小的情况下展示出显著的节能效果,尤其是在融合内核实现中。另一个研究领域涉及为 LLM 加装外部内存模块,以更有效地处理长上下文,提高准确性并减少内存使用。此外,研究正在调查并行策略,例如张量并行和流水线并行,以优化分布式 LLM 服务系统的吞吐量和延迟权衡。最后,正在为无服务器 LLM 推理开发新颖的调度框…

  18. RESEARCH · CL_290622 ·

    Apple利用“Minions”将闲置的Mac变成虚拟GPU云

    Apple研究人员开发了“Minions”系统,该系统聚合了macOS设备上闲置的Apple Silicon GPU,为机器学习推理创建一个分布式虚拟GPU云。这种方法旨在通过利用现有硬件、降低成本和提高弹性来解决集中式GPU基础设施的局限性。该系统在一个研究论文中进行了详细介绍,它允许团队在不采购额外GPU的情况下运行大规模推理工作负载,将日常Mac转变为一个实用的分布式计算平台。此外,还有研究正在探索先进的GPU调度技术和内核工程…

  19. TOOL · CL_288555 ·

    Anyscale 详解通过自托管 LLM 将编码代理成本降低 90%

    Anyscale 发布了一份指南,详细介绍了如何将运行编码代理的相关成本大幅降低高达 90%。该方法涉及使用其平台自托管大型语言模型 (LLM),该平台集成了 Ray Serve 和 vLLM,而不是依赖按 token 收费的 API 定价。这种方法不仅能节省大量成本,还能提供增强的数据隐私和性能改进,例如更快的编译时间和更高的请求吞吐量。

  20. TOOL · CL_247038 ·

    NVIDIA BioNeMo 推理运行时加速蛋白质结构预测

    NVIDIA 推出了 BioNeMo 推理运行时 (BioIR),这是一个旨在加速 NVIDIA GPU 上生物分子结构预测模型的 Python 库。BioIR 优化了 Pairformer 和 Evoformer 等模型中的特定操作,并利用 CUDA Graph 捕获进行模块优化,以及使用 Ray 进行流水线扩展。该运行时已被用于扩展 AlphaFold 数据库,为数百万个高置信度蛋白质结构预测的发布做出了贡献。基准测试显示,与标准…