Ray
PulseAugur coverage of Ray — every cluster mentioning Ray across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
社交媒体帖子提及“Ray”和“股东价值”,并带有幽默标签
此条目似乎是一则社交媒体帖子,以幽默的语境提及“Ray”和“股东价值”,可能与一个梗或内部笑话有关。它包含#鹅、#梗和#鹅图等标签,暗示其意图轻松或讽刺,而非事实新闻报道。
-
Anyscale 使用 Ray 实现可扩展的机器人策略评估
Anyscale 已经开发了一种新的方法,通过在其托管平台上利用 Ray 和 Isaac Lab 来评估机器人基础模型。这种方法通过分离 GPU 绑定工作负载来解决机器人仿真和策略推理中的挑战。该系统允许仿真和策略推理独立扩展,从而能够在无需为每次试验重新加载模型的情况下实现数百次并行运行。
-
Anyscale 详解 PyTorch 和 Ray 中的 FSDP,用于训练 Qwen3-TTS
这篇博文详细介绍了 PyTorch 中的完全分片数据并行(FSDP)技术,这是一种在多个 GPU 上高效训练大型 AI 模型的技术。它涵盖了 FSDP 的内部工作原理,演示了如何分片模型参数、梯度和优化器状态以最大限度地减少每个 GPU 的内存使用。文章包括实际示例,例如使用 PyTorch 和 Ray Train 训练 Vision Transformer 和微调 Qwen3-TTS 语音克隆模型。
-
Anyscale 推出 AI Agent Skills,自动化 Ray 工作负载调试
Anyscale 推出了新的 Agent Skills,旨在自动化其平台上的 Ray 工作负载调试。这些技能可通过 Anyscale CLI 访问,并与流行的编码代理集成,以简化识别和修复错误的过程。平台技能包括检查代码和实时工作负载、运行配置以及自动调试和修复失败作业的功能,旨在减少在复杂 AI 管道故障排除上花费的手动工作和时间。
-
Anyscale 的 Ray 为大规模 AI 训练和推理提供支持
Anyscale 的 Ray Day London 活动强调了各组织如何使用 Ray 框架扩展 AI 工作负载。关键演讲包括 Xoople 使用 Ray Data 进行全球规模地理空间基础模型推理,以及 Adyen 在海量 51 万亿 token 数据集上训练交易基础模型 (TFM)。这些案例研究展示了 Ray 在处理多模态数据处理、基础模型训练和强化学习等任务方面,简化复杂 AI 基础设施的能力。
-
Ray 框架助力 Torc、Discord 等公司实现 AI 扩展
Anyscale 在纽约的 Ray Day 活动展示了 Torc Robotics、Discord、Cubist 和 Coinbase 等公司如何利用 Ray 框架来扩展其 AI 工作负载。例如,Torc Robotics 通过使用 Ray 统一其多模态 AI 处理堆栈,将 GPU 利用率从 30-40% 显著提高到约 90%,从而使模型训练的 epoch 速度提高了 4 倍。Discord 从开源 Ray 部署迁移到 Anyscal…
-
Luma Labs 发布 Ray 3.2 平台更新
Luma Labs 发布了其 Ray 平台 3.2 版本,强调其对持续开发和交付新功能的承诺。该公告通过社交媒体帖子发布,突显了持续的进展和更新的交付。
-
Anyscale 使用 Alluxio 缓存将 AI 训练数据延迟降低 20 倍
Anyscale 通过将分布式缓存层 Alluxio 与其 Ray 平台集成,显著提高了 AI 训练数据读取速度。通过在与 Ray 集群共置的 NVMe SSD 上部署 Alluxio,基准测试显示跨区域数据访问延迟降低了 20 倍。该解决方案将数据本地缓存,消除了在训练周期和超参数扫描期间重复进行昂贵的跨区域传输的需要。
-
Anyscale AI 平台在 Azure 上进入公开预览
Anyscale 已在其直接集成到 Microsoft Azure 的 AI 计算平台上启动公开预览。此集成允许企业在其自己的 Azure 租户内部署和管理 AI 工作负载,包括分布式训练和大规模推理。该平台利用开源 AI 计算引擎 Ray,并通过 Azure Native 集成提供治理、安全和通过现有 Azure 服务进行计费等功能。
-
万亿参数AI模型给Kubernetes编排带来挑战
在Kubernetes集群中运行万亿参数的AI模型,其挑战远超标准的容器编排。这些庞大的模型需要分布式系统方法,其中单个“副本”可能包含多个GPU甚至整个节点,而不是适合单个Pod。核心问题在于管理模型权重所需的巨大内存,即使采用16位精度,也可能达到TB级别,这需要仔细考虑并行策略和量化技术。
-
Anyscale 的 Ray 加入 PyTorch 基金会以扩展 AI 基础设施
Anyscale 宣布其开源分布式计算框架 Ray 将加入 PyTorch 基金会,该基金会隶属于 Linux 基金会。Ray 经历了显著增长,过去一年下载量增长了近十倍,并为 xAI、Netflix 和 JPMorgan 等众多公司的 AI 工作负载提供支持。此举旨在围绕 Ray 建立一个更强大的开源社区,以满足 AI 基础设施不断变化的需求。
-
Anyscale 发布用于 Ray 工作负载监控的持久化仪表板
Anyscale 为其 Ray 平台推出了新的集群和 Actor 仪表板,提供完全持久化的监控和调试工具。这些仪表板解决了之前临时数据的局限性,即使在集群关闭后也能对 Ray 工作负载进行历史分析。增强的可观测性旨在处理大规模 AI 和数据处理作业,提供改进的用户体验,并在各种工作负载和系统级洞察之间实现无缝导航。
-
Anyscale 在 Azure 上推出托管式 AI 服务,用于 Ray 工作负载
Anyscale 已在 Microsoft Azure 上推出其托管服务的私有预览版,旨在帮助企业构建和扩展 AI 工作负载。此次集成允许用户直接在 Azure 门户中配置和管理由 Ray 框架支持的 Anyscale。该服务通过 Azure 提供增强的安全功能和统一账单,并通过 Anyscale Runtime 优化性能,以经济高效地处理 AI 原生应用程序。
-
Notion、Salesforce、Uber 使用 Anyscale 的 Ray 框架扩展 AI
Anyscale 主办了 Ray Day Seattle,展示了 Notion 和 Salesforce 等公司如何使用 Ray 框架扩展 AI 工作负载。Notion 通过将 AI 管道迁移到 Ray,将多个步骤整合到一个引擎中,从而将嵌入成本显著降低了 80%,并提高了查询延迟。Salesforce 利用 Ray 构建了一个用于总结长篇文档的分布式系统,使用 20B 参数模型实现了低延迟。Uber 还展示了使用 Ray 改进其 M…
-
Thinking Machines 推出 Tinker API,实现灵活的分布式 LLM 微调
Thinking Machines 推出了 Tinker,这是一个旨在简化语言模型微调的新 API。该服务允许开发人员在本地机器上编写训练循环,然后在分布式 GPU 上执行。Mira Murati 等早期用户强调了它的灵活性以及抽象化复杂 GPU 管理的能力。
-
Replit悬赏金连接非程序员与开发者,推出AI艺术初创公司
一位名叫Jack的市场经理,虽然没有编程技能,但利用Replit的悬赏金平台将他的AI艺术品电子商务想法Magic Prints变为现实。他与开发者Ray合作,Ray构建了用于图像生成的Stable Diffusion后端,并设计了用户界面。Magic Prints允许客户生成AI艺术品并将其印在配件上,Ray将整个项目托管在Replit上以便于访问。
-
Replit Bounties将Deel内容团队与开发人员连接起来,用于内部网站建设
Replit的Bounties平台促成了Deel内容团队的内部网站创建,使他们能够搜索其博客文章。该平台将Deel与开发人员Ray连接起来,Ray利用Replit的工具(包括其AI代码助手)在一周内以低于预算的方式构建了该网站。本案例研究强调了Replit Bounties如何有效地为特定软件任务匹配公司与开发人员,从而简化项目完成并促进协作。