Anyscale, Inc.
PulseAugur coverage of Anyscale, Inc. — every cluster mentioning Anyscale, Inc. across labs, papers, and developer communities, ranked by signal.
- 2026-06-11 product_launch Anyscale launched new agent skills to automate the debugging of Ray workloads. 来源
- 2026-06-10 product_launch Anyscale demonstrated cost savings in LLM serving using Ray and vLLM on AMD hardware. 来源
- 2026-06-03 research_milestone Anyscale demonstrated a 20x speedup in cross-region training data reads using Alluxio and Ray Data. 来源
- 2026-06-02 product_launch Anyscale's AI compute platform has entered public preview as an Azure Native integration. 来源
- 2026-05-22 product_launch Anyscale launched a private preview of its managed service on Microsoft Azure. 来源
- 2026-04-02 product_launch Anyscale announced DP Group Fault Tolerance for vLLM WideEP Deployments with Ray Serve LLM. 来源
7 天有情绪数据
Anyscale to release new Ray features for multimodal AI data pipelines
The detailed blog post on Ray Data for scaling multimodal AI data pipelines suggests Anyscale is investing heavily in this area. We hypothesize they will release new features or tools specifically targeting the challenges of multimodal data preprocessing and streaming within the next quarter.
Anyscale actively expanding Ray's integration with major cloud providers
Anyscale has launched a managed service on Azure, indicating a strategic push to integrate Ray with major cloud providers. This move aims to simplify enterprise adoption and leverage existing cloud infrastructure for AI workloads.
Anyscale enhances Ray's observability and debugging capabilities
The launch of persistent Cluster and Actor Dashboards for Ray signifies Anyscale's commitment to improving the developer experience for large-scale AI workloads. This addresses a key pain point in debugging and monitoring complex distributed systems.
Anyscale to announce enterprise-focused Ray features within 90 days
Anyscale's recent announcements highlight a strong push towards enterprise adoption, including a managed service on Azure and enhanced monitoring tools for large-scale workloads. This suggests a strategic focus on catering to enterprise needs, making an announcement of specific enterprise-grade features or support for Ray a likely next step.
Anyscale to release benchmarks demonstrating Ray Data's performance gains within 60 days
Anyscale's detailed explanation of Ray Data's benefits for multimodal AI data pipelines, focusing on overcoming I/O bottlenecks and improving GPU utilization, suggests they have performance data to back these claims. Releasing formal benchmarks would be a logical next step to validate these improvements and attract users facing similar scaling challenges.
-
Runway ML宣布将于今年九月在旧金山举办AI峰会
Runway ML宣布其即将于九月在旧金山举行的AI峰会。此次活动将汇聚行业领袖,共同探讨AI在机器人、自动驾驶汽车和生命科学等多个领域的影响。该公司已开始公布首批演讲嘉宾阵容,后续还将公布更多。
-
Anyscale 使用 Ray 实现可扩展的机器人策略评估
Anyscale 已经开发了一种新的方法,通过在其托管平台上利用 Ray 和 Isaac Lab 来评估机器人基础模型。这种方法通过分离 GPU 绑定工作负载来解决机器人仿真和策略推理中的挑战。该系统允许仿真和策略推理独立扩展,从而能够在无需为每次试验重新加载模型的情况下实现数百次并行运行。
-
GPT-5.6 发布在即,Claude 代码制品被注意到
TLDR AI 报道称 GPT-5.6 定于周二发布,而 Anthropic 的 Claude 正在显示代码制品。文章还提到了 Perplexity 在 AI 记忆能力方面的进展。该文章由 Buildkite 赞助,突出了其被众多 AI 公司使用的 CI/CD 平台。
-
数据处理转向 GPU 以处理非结构化和多模态数据
传统的数据处理方法严重依赖于结构化数据的 SQL 和 CPU 集群,但这种方法正在演变。一个显著的转变正在发生,非结构化和多模态数据(如视频、PDF 和传感器日志)正成为洞察力的主要来源。处理这些数据需要模型推理,而模型推理越来越多地在 GPU 上执行,这使得数据处理成为一项 GPU 密集型任务。这种从表格数据到多模态数据、从 SQL 到推理的转变,正在为从以前无法访问的信息中提取价值开辟新的途径。
-
Anyscale 详解 PyTorch 和 Ray 中的 FSDP,用于训练 Qwen3-TTS
这篇博文详细介绍了 PyTorch 中的完全分片数据并行(FSDP)技术,这是一种在多个 GPU 上高效训练大型 AI 模型的技术。它涵盖了 FSDP 的内部工作原理,演示了如何分片模型参数、梯度和优化器状态以最大限度地减少每个 GPU 的内存使用。文章包括实际示例,例如使用 PyTorch 和 Ray Train 训练 Vision Transformer 和微调 Qwen3-TTS 语音克隆模型。
-
Anyscale 推出 AI Agent Skills,自动化 Ray 工作负载调试
Anyscale 推出了新的 Agent Skills,旨在自动化其平台上的 Ray 工作负载调试。这些技能可通过 Anyscale CLI 访问,并与流行的编码代理集成,以简化识别和修复错误的过程。平台技能包括检查代码和实时工作负载、运行配置以及自动调试和修复失败作业的功能,旨在减少在复杂 AI 管道故障排除上花费的手动工作和时间。
-
Anyscale 的 Ray 为大规模 AI 训练和推理提供支持
Anyscale 的 Ray Day London 活动强调了各组织如何使用 Ray 框架扩展 AI 工作负载。关键演讲包括 Xoople 使用 Ray Data 进行全球规模地理空间基础模型推理,以及 Adyen 在海量 51 万亿 token 数据集上训练交易基础模型 (TFM)。这些案例研究展示了 Ray 在处理多模态数据处理、基础模型训练和强化学习等任务方面,简化复杂 AI 基础设施的能力。
-
Anyscale 通过在 AMD 上分离预填充-解码来降低 LLM 服务成本
Anyscale 通过分离推理的预填充和解码阶段,在 LLM 服务方面实现了显著的成本节省。该方法将提示处理与 token 生成分开,减少了干扰并提高了吞吐量。虽然这种方法可以降低高达 67% 的成本并提高每秒查询次数 2.3 倍,但它会增加操作复杂性,并可能略微增加首次 token 的时间。
-
Ray 框架助力 Torc、Discord 等公司实现 AI 扩展
Anyscale 在纽约的 Ray Day 活动展示了 Torc Robotics、Discord、Cubist 和 Coinbase 等公司如何利用 Ray 框架来扩展其 AI 工作负载。例如,Torc Robotics 通过使用 Ray 统一其多模态 AI 处理堆栈,将 GPU 利用率从 30-40% 显著提高到约 90%,从而使模型训练的 epoch 速度提高了 4 倍。Discord 从开源 Ray 部署迁移到 Anyscal…
-
Anyscale 使用 Alluxio 缓存将 AI 训练数据延迟降低 20 倍
Anyscale 通过将分布式缓存层 Alluxio 与其 Ray 平台集成,显著提高了 AI 训练数据读取速度。通过在与 Ray 集群共置的 NVMe SSD 上部署 Alluxio,基准测试显示跨区域数据访问延迟降低了 20 倍。该解决方案将数据本地缓存,消除了在训练周期和超参数扫描期间重复进行昂贵的跨区域传输的需要。
-
Anyscale AI 平台在 Azure 上进入公开预览
Anyscale 已在其直接集成到 Microsoft Azure 的 AI 计算平台上启动公开预览。此集成允许企业在其自己的 Azure 租户内部署和管理 AI 工作负载,包括分布式训练和大规模推理。该平台利用开源 AI 计算引擎 Ray,并通过 Azure Native 集成提供治理、安全和通过现有 Azure 服务进行计费等功能。
-
Trajectory 通过并发多 LoRA 栈实现更快的 AI 模型更新
Trajectory 开发了一个新的并发多 LoRA 训练栈,专为持续学习而设计,旨在取代传统的漫长模型更新周期。该平台通过将每个实验映射到共享的多租户引擎上的专用 LoRA 适配器,使模型能够从实时反馈和生产交互中学习。据报道,该系统通过优化 GPU 内存使用和跨作业的负载均衡,在实验吞吐量方面比单租户框架提高了 2.81 倍,且训练奖励没有回归。
-
Anyscale 详解 Ray Data 以扩展多模态 AI 数据管道
Anyscale 的博客文章详细介绍了扩展多模态 AI 数据管道所面临的挑战,其中预处理通常会导致 GPU 资源不足,从而造成利用率低下。文章解释说,传统的阶段式批处理执行(涉及在预处理和训练之间将中间数据写入存储)由于显著的 I/O 成本和延迟而效率低下。文章提出了一种使用 Ray Data 的分离式流式架构,将预处理后的数据直接从专用的预处理集群流式传输到 GPU 工作节点,绕过存储瓶颈并提高 GPU 利用率。
-
Anyscale 的 Ray 加入 PyTorch 基金会以扩展 AI 基础设施
Anyscale 宣布其开源分布式计算框架 Ray 将加入 PyTorch 基金会,该基金会隶属于 Linux 基金会。Ray 经历了显著增长,过去一年下载量增长了近十倍,并为 xAI、Netflix 和 JPMorgan 等众多公司的 AI 工作负载提供支持。此举旨在围绕 Ray 建立一个更强大的开源社区,以满足 AI 基础设施不断变化的需求。
-
Anyscale 推出技能以自动化 LLM 后续训练运行
Anyscale 推出了新的 Anyscale Agent Skill,旨在简化和自动化 LLM 后续训练运行的生成过程。该技能可根据用户模型、数据集和目标,帮助用户选择最合适的后续训练方法,例如 SFT、CPT、DPO 或 RLVR。然后,它会为 LLaMA-Factory 和 Ray Train 等流行框架生成配置文件,并准备好在 Anyscale Jobs 上进行部署。
-
Anyscale 发布用于 Ray 工作负载监控的持久化仪表板
Anyscale 为其 Ray 平台推出了新的集群和 Actor 仪表板,提供完全持久化的监控和调试工具。这些仪表板解决了之前临时数据的局限性,即使在集群关闭后也能对 Ray 工作负载进行历史分析。增强的可观测性旨在处理大规模 AI 和数据处理作业,提供改进的用户体验,并在各种工作负载和系统级洞察之间实现无缝导航。
-
Anyscale 在 Azure 上推出托管式 AI 服务,用于 Ray 工作负载
Anyscale 已在 Microsoft Azure 上推出其托管服务的私有预览版,旨在帮助企业构建和扩展 AI 工作负载。此次集成允许用户直接在 Azure 门户中配置和管理由 Ray 框架支持的 Anyscale。该服务通过 Azure 提供增强的安全功能和统一账单,并通过 Anyscale Runtime 优化性能,以经济高效地处理 AI 原生应用程序。
-
Notion、Salesforce、Uber 使用 Anyscale 的 Ray 框架扩展 AI
Anyscale 主办了 Ray Day Seattle,展示了 Notion 和 Salesforce 等公司如何使用 Ray 框架扩展 AI 工作负载。Notion 通过将 AI 管道迁移到 Ray,将多个步骤整合到一个引擎中,从而将嵌入成本显著降低了 80%,并提高了查询延迟。Salesforce 利用 Ray 构建了一个用于总结长篇文档的分布式系统,使用 20B 参数模型实现了低延迟。Uber 还展示了使用 Ray 改进其 M…
-
Anyscale 为 vLLM 中的 MoE 模型增加了 Ray Serve 容错功能
Anyscale 为其 vLLM 服务引擎引入了新的容错功能,该引擎与 Ray Serve 集成。此增强功能专门解决了部署大型专家混合(MoE)模型的挑战,这些模型被分片到多个 GPU 上。当一个数据并行(DP)组中的单个 GPU 发生故障时,新系统现在可以识别并重新启动构成该 DP 组的整个 GPU 组,从而防止整个部署变得不可用。
-
Thinking Machines 推出 Tinker API,实现灵活的分布式 LLM 微调
Thinking Machines 推出了 Tinker,这是一个旨在简化语言模型微调的新 API。该服务允许开发人员在本地机器上编写训练循环,然后在分布式 GPU 上执行。Mira Murati 等早期用户强调了它的灵活性以及抽象化复杂 GPU 管理的能力。