Anyscale, Inc.
PulseAugur coverage of Anyscale, Inc. — every cluster mentioning Anyscale, Inc. across labs, papers, and developer communities, ranked by signal.
- 2026-07-30 partnership Anyscale has signed a definitive agreement to join Nscale, aiming to integrate software and infrastructure for AI workloads. 来源
- 2026-06-11 product_launch Anyscale launched new agent skills to automate the debugging of Ray workloads. 来源
- 2026-06-10 product_launch Anyscale demonstrated cost savings in LLM serving using Ray and vLLM on AMD hardware. 来源
- 2026-06-03 research_milestone Anyscale demonstrated a 20x speedup in cross-region training data reads using Alluxio and Ray Data. 来源
- 2026-06-02 product_launch Anyscale's AI compute platform has entered public preview as an Azure Native integration. 来源
- 2026-05-22 product_launch Anyscale launched a private preview of its managed service on Microsoft Azure. 来源
- 2026-04-02 product_launch Anyscale announced DP Group Fault Tolerance for vLLM WideEP Deployments with Ray Serve LLM. 来源
6 天有情绪数据
Anyscale to release new Ray features for multimodal AI data pipelines
The detailed blog post on Ray Data for scaling multimodal AI data pipelines suggests Anyscale is investing heavily in this area. We hypothesize they will release new features or tools specifically targeting the challenges of multimodal data preprocessing and streaming within the next quarter.
Anyscale actively expanding Ray's integration with major cloud providers
Anyscale has launched a managed service on Azure, indicating a strategic push to integrate Ray with major cloud providers. This move aims to simplify enterprise adoption and leverage existing cloud infrastructure for AI workloads.
Anyscale enhances Ray's observability and debugging capabilities
The launch of persistent Cluster and Actor Dashboards for Ray signifies Anyscale's commitment to improving the developer experience for large-scale AI workloads. This addresses a key pain point in debugging and monitoring complex distributed systems.
Anyscale to announce enterprise-focused Ray features within 90 days
Anyscale's recent announcements highlight a strong push towards enterprise adoption, including a managed service on Azure and enhanced monitoring tools for large-scale workloads. This suggests a strategic focus on catering to enterprise needs, making an announcement of specific enterprise-grade features or support for Ray a likely next step.
Anyscale to release benchmarks demonstrating Ray Data's performance gains within 60 days
Anyscale's detailed explanation of Ray Data's benefits for multimodal AI data pipelines, focusing on overcoming I/O bottlenecks and improving GPU utilization, suggests they have performance data to back these claims. Releasing formal benchmarks would be a logical next step to validate these improvements and attract users facing similar scaling challenges.
-
Anyscale 的 Ray Train 增加了可观测性以解决 GPU 饥饿问题
Anyscale 在其 Ray Train 框架中引入了新的可观测性功能,以帮助开发人员诊断和解决模型训练期间的 GPU 饥饿问题。这些工具与 Ray Data 集成,提供数据加载管道每个阶段的详细指标。通过可视化这些指标(通常通过 Grafana 仪表板),用户可以识别数据准备中的瓶颈,例如上游管道缓慢或繁重的预处理,这些都会导致 GPU 空闲并减慢训练速度。
-
Anyscale 使用 Ray 加速 JEPA 机器人推理
Anyscale 开发了一个使用 Ray 的系统,用于加速机器人领域 JEPA 世界模型架构的实时推理。V-JEPA2-AC 模型之前在抓取和放置任务中成功率可达 65-80%,但规划时间长达 16 秒/动作。通过将推理卸载到拥有更强大 GPU(如 NVIDIA A100)的 Ray 集群,Anyscale 显著缩短了规划时间,从而实现了更快、更连续的机器人运行。
-
Anyscale 将 KubeRay 捐赠给 CNCF,将 PARK 技术栈统一到 Linux 基金会旗下
Anyscale, Inc. 已将其 KubeRay 项目捐赠给云原生计算基金会 (CNCF)。KubeRay 作为用于分布式 AI 工作负载的 Ray 框架与用于计算编排的 Kubernetes 之间的桥梁。此举将 KubeRay 置于 Linux 基金会的治理之下,与新兴的“PARK 技术栈”(PyTorch、AI 模型、Ray、Kubernetes)的其他组件一起,旨在为开发者提供更大的中立性和开放性。
-
Nvidia 发布七款开源 AI 模型以促进科学与工程发展
Nvidia 发布了一套七款开源 AI 模型,旨在协助开发者加速科学和工程的进步。这些模型可供广泛的行业使用,并支持包括 NVIDIA NIM、Hugging Face 和 LangChain 在内的各种平台和框架。该举措旨在普及强大的 AI 工具,以解决复杂问题。
-
Lila Sciences 和 Anyscale 将 GLM-5.3-Flash 扩展到 100 万 token 上下文
Lila Sciences 和 Anyscale 成功训练了开源模型 GLM-5.3-Flash,使其能够处理 100 万 token 的序列。通过优化训练堆栈,包括修改注意力机制和内存管理,并利用 64 个 B200 GPU,实现了上下文长度的显著增加。Anyscale 博客中详细介绍的这项研究强调了在全长科学数据上进行训练的重要性,并向上游贡献了对 Megatron-LM 的修复。
-
Anyscale 详解 KubeRay 生产实践,实现 Kubernetes 上 Ray 的规模化扩展
这篇博客文章是 KubeRay 系列的第二篇,详细介绍了在 Kubernetes 上生产环境中运行 Ray 的最佳实践。它侧重于从单个作业扩展到跨多个团队和集群的数百个作业,解决了调试、硬件故障和默认设置调优等挑战。文章重点介绍了 GPU 共享、工作节点自动缩减至零以及使用 Kueue 进行公平资源分配等功能,并提供了一个生产环境 RayJob 配置的 YAML 示例。
-
Superlinked 推理引擎在 RAG 平台比较中领先
本文比较了用于生产搜索和检索增强生成 (RAG) 系统的推理平台,强调了将规模从简单演示扩展到数百万文档所面临的挑战。文章强调了高效处理嵌入、重排器、OCR 和实体提取的必要性。Superlinked 推理引擎 (SIE) 因其集成方法而被列为首选,它为这些多样化的检索模型提供单一 API,并提供基于云的服务或自托管选项。
-
Anyscale 推出 Ray 加速器 SIG 以优化 AI 工作负载
Anyscale 宣布成立一个特别兴趣小组 (SIG),专注于优化 Ray 分布式计算框架在 GPU 和 TPU 等加速器上的使用。该倡议旨在促进开发者与硬件供应商之间的协作,以提高在专用硬件上运行的 AI 和机器学习工作负载的性能和效率。SIG 将促进讨论和开发工作,以确保 Ray 有效地利用现代加速器的强大功能。
-
Anyscale 和 Google Cloud 通过 Ray 实现 TPU 上的原生 PyTorch 支持
Anyscale 和 Google Cloud 已合作推出对 Google TPU 上的 PyTorch 的原生支持,利用 Ray 分布式计算框架。此集成允许机器学习团队通过单一 Kubernetes 控制平面管理跨 GPU 和 TPU 的分布式 PyTorch 训练和推理工作负载。新方法通过启用每 TPU 芯片一个工作程序的模型,简化了从 GPU 到 TPU 的迁移,该模型模仿了熟悉的 GPU 设置,并允许进行直接的代码调整。
-
AI API网关更换凸显成本与性能差异
作者详细介绍了更换AI API网关的经验,强调了成本管理和性能指标的重要性。他们发现,虽然许多供应商提供有竞争力的价格,但实际成本和延迟会根据使用模式和具体的模型部署而有显著差异。文章强调,除了初始价格点之外,还需要仔细评估,以确保最佳的效率和成本效益。
-
Anyscale 发布 KubeRay,实现 Ray 与 Kubernetes 的无缝集成
Anyscale 发布了 KubeRay,这是一个开源的 Kubernetes Operator,旨在简化 Ray 工作负载的管理。KubeRay 弥合了 Kubernetes 原生资源管理与 Ray 用于扩展 Python 和 AI 应用程序的框架之间的差距。它引入了 RayCluster、RayJob 和 RayService 等自定义资源,为 Ray 部署提供 Kubernetes 原生的生命周期管理、自动扩展和可靠性。
-
Coinbase 的专用 Qwen3.5-9B 模型在欺诈检测方面优于 Claude Opus 4.5
Coinbase 开发了一个专用的欺诈检测模型 Qwen3.5:9b,据报道,该模型在 Coinbase 的内部欺诈基准测试中优于 Anthropic 的 Claude Opus 4.5。该系统将 LLM 集成作为一个下游代理,用于审查选定的交易,而不是取代现有的 ML 模型和规则引擎。其方法的关键在于风险评估的“仅限分层”输出和代理的“仅限阻止”权限,确保它不能批准交易,但可以标记可疑交易。该系统在 A/B 测试中,欺诈交易减少了 …
-
AI 模型路由器成为大语言模型经济的控制平面
AI 模型路由器正成为大语言模型经济中的关键组成部分,将焦点从简单的模型访问转移到复杂的控制平面。OpenRouter、LiteLLM、Cursor 和 Databricks 等平台能够根据成本、性能和特定任务需求等因素,动态地将请求路由到各种 AI 模型。Google、Microsoft 和 Amazon 等主要云服务提供商以及 OpenAI、Anthropic 和 Meta 等 AI 实验室都在支持这一演进,表明行业正朝着更智能、…
-
Anyscale 将托管 Ray 引入 Azure Kubernetes Service
Anyscale 提供了一项托管 Ray 服务,可以在客户的 Azure Kubernetes Service (AKS) 集群内运行。此集成允许用户直接在其现有的 Azure 基础设施内利用 Ray 的分布式计算能力。设置涉及仅出口运算符、用于身份验证的 Entra ID,以及网络和 Private Link 的注意事项。
-
Anyscale 详解通过自托管 LLM 将编码代理成本降低 90%
Anyscale 发布了一份指南,详细介绍了如何将运行编码代理的相关成本大幅降低高达 90%。该方法涉及使用其平台自托管大型语言模型 (LLM),该平台集成了 Ray Serve 和 vLLM,而不是依赖按 token 收费的 API 定价。这种方法不仅能节省大量成本,还能提供增强的数据隐私和性能改进,例如更快的编译时间和更高的请求吞吐量。
-
开发者在 Together AI 速率限制下寻找推理提供商
一位独立开发者在测试多种大型语言模型(包括 Llama 3.3 70B 和 Qwen 2.5)用于代理存储库索引工具时,遇到了 Together AI 的速率限制。该开发者正在寻找提供更多慷慨的 API 积分供实验而无需企业级收入的替代推理提供商。几家主要的人工智能公司和推理平台被提及为潜在选择。
-
Anyscale 的 Azure Kubernetes 架构详解
本文详细技术性地解释了 Anyscale 在 Azure Kubernetes Service (AKS) 上的架构。它概述了双平面 Azure 设置,并描述了 Ray Data、Train 和 Serve 管道。文章还阐明了 Anyscale 的托管服务与底层 Azure 基础设施之间的操作边界。
-
MiniMax AI的H3模型在Ray峰会上整合文本、图像、视频和音频
MiniMax AI的H3模型,一个能够处理文本、图像、视频和音频的33B开源模型,在旧金山的Ray峰会上进行了展示。演示详细介绍了H3如何将多种模态整合到单一上下文中。此外,讨论还涵盖了开发人员如何对H3进行微调、评估和部署,并提到了与Anyscale、DigitalOcean、NVIDIA、Infact和Nous Research的合作。
-
Anyscale 为 Kubernetes 事后调试推出 Ray History Server
Anyscale 推出了 Ray History Server,这是一项旨在为在 Kubernetes 上运行的 Ray 集群提供事后可观测性的新功能。该工具解决了当集群是临时性的(即使用后即终止)时调试失败作业的挑战。History Server 从存储在对象存储中的遥测数据中重建 Ray Dashboard 界面,使用户即使在集群关闭后也能访问日志、任务状态和错误跟踪。此功能目前在 KubeRay v1.7 中处于测试阶段,包括一…
-
Anyscale 将原生沙箱集成到 Ray 框架中
Anyscale 在其 Ray 框架中引入了原生沙箱功能,从 2.58 版本开始。这项与 Google 合作并利用 gVisor 开发的新功能,允许直接在 Ray 集群内创建和管理隔离的执行环境。这些沙箱可以使用现有的 Ray 原始组件进行调度和扩展,从而简化了需要运行大量执行模型生成代码的隔离环境的代理强化学习工作负载。该集成提供了用于简单隔离执行的高级 API 和用于构建自定义沙箱服务的低级原始组件,由 Ray 处理编排,gVis…