Amazon SageMaker HyperPod
PulseAugur coverage of Amazon SageMaker HyperPod — every cluster mentioning Amazon SageMaker HyperPod across labs, papers, and developer communities, ranked by signal.
- 2026-09-10 product_launch Amazon SageMaker HyperPod now supports model caching for inference to reduce cold starts. 来源
- 2026-09-10 product_launch AWS launched model caching for Amazon SageMaker HyperPod to reduce inference cold start times. 来源
- 2026-09-10 product_launch AWS introduced model caching for Amazon SageMaker HyperPod to reduce inference cold start times. 来源
- 2026-08-24 product_launch AWS announced new Ray capabilities integrated into Amazon SageMaker HyperPod, simplifying foundation model training and serving. 来源
5 天有情绪数据
SageMaker HyperPod to become a key platform for hybrid attention and brain-inspired AI development
The recent evidence shows Pathway developing brain-inspired BDH architectures and Alibaba deploying Qwen models with hybrid attention on SageMaker HyperPod. This suggests SageMaker HyperPod is becoming a preferred platform for these advanced, non-traditional AI architectures, indicating a potential future trend.
SageMaker HyperPod is enabling complex, multi-modal AI development with NVIDIA Cosmos 3
The collaboration between AWS and NVIDIA to launch a Physical AI model factory using NVIDIA Cosmos 3 on SageMaker HyperPod highlights the platform's capability to handle complex, multi-modal AI tasks. This integration of video, image, action, and sound data for robotics and autonomous vehicles suggests a growing specialization of HyperPod for such applications.
SageMaker HyperPod InstantStart will drive wider adoption of large model training and deployment
The introduction of SageMaker HyperPod InstantStart aims to simplify the operational complexities of foundation model workloads. This simplification is likely to encourage more organizations to leverage HyperPod for training and deploying large, complex models, potentially increasing its user base and the diversity of models hosted on the platform.
-
Amazon SageMaker HyperPod 添加模型缓存以加速推理
Amazon SageMaker HyperPod 推出了模型缓存功能，以减少推理冷启动。此功能将模型权重和容器镜像预加载到集群节点上，使 Pod 能够从本地 NVMe 存储访问数据，而不是下载数据。此增强功能旨在提高平台上的推理操作的效率和速度。
-
AWS SageMaker HyperPod 添加模型缓存以大幅缩短推理冷启动时间
Amazon SageMaker HyperPod 引入了一项模型缓存功能，旨在显著减少推理冷启动时间。此新功能将模型权重和容器镜像预加载到集群节点上，使 Pod 能够从本地 NVMe 存储高速访问数据，而不是依赖于较慢的网络下载。因此，推理 Pod 可以在几秒钟内开始提供流量，而不是之前所需的几十分钟，从而提高了自动扩展的响应速度。
-
阿里巴巴发布 Qwen3.8-2.4T-A95B 开放权重模型，用于复杂的 AI 任务
阿里巴巴的 Qwen 团队发布了 Qwen3.8-2.4T-A95B，这是他们 Qwen-Max 系列中的首个开放权重模型。这个拥有 2.4 万亿参数、每个 token 激活 950 亿参数的混合注意力架构的大模型，专为要求严苛的智能体和推理任务而设计。发布内容详细介绍了如何使用 vLLM 在 Amazon SageMaker HyperPod 上部署该模型，通过工具调用和推测解码等功能实现高效推理。
-
AI 进展包括规划代理、新型驾驶系统和受大脑启发的架构 · 跟踪 3 个来源
AI 创业家 Danijar Hafner 正在开发能够为意外情况做规划的高级代理，他从旧金山的一家隐秘初创公司开展工作。另外，一篇新研究论文介绍 DriveZero，这是一个端到端的自动驾驶系统，它超越了模仿人类驾驶日志的局限。此外，AWS 正在其 Amazon SageMaker HyperPod 平台上支持 Pathway 的 Baby Dragon Hatchling (BDH) 的开发，这是一种受大脑启发的 AI 架构。
-
Pathway 的受大脑启发的 BDH 架构在 Amazon SageMaker HyperPod 上开发
Pathway 是一家开发人工智能系统的公司，它创建了一种新颖的、受大脑启发的架构，称为 BDH（Dragon Hatchling），它超越了传统的 Transformer 模型。该架构在潜在空间中执行推理，在推理过程中调整其内部内存，而无需生成中间文本痕迹或为新知识进行重新训练。Pathway 正在利用 Amazon SageMaker HyperPod 来扩展 BDH 的开发和训练，并利用其高效计算资源管理的能力。
-
AWS 和 NVIDIA 发布 Cosmos 3 物理 AI 模型工厂
AWS 和 NVIDIA 已合作推出使用 SageMaker HyperPod 上的 NVIDIA Cosmos 3 构建的物理 AI 模型工厂。该系统旨在持续生成合成数据、训练感知和策略模型，并在模拟中进行评估，使机器人和自动驾驶汽车能够在现实世界中运行。NVIDIA Cosmos 3 模型采用 Transformer 混合架构，将视频、图像、动作和声音等多种模态整合到单一 token 流中，使其能够在 AWS 基础设施上通过统一的…
-
AWS 通过 SageMaker HyperPod InstantStart 简化 FM 工作负载操作
AWS 推出了 HyperPod InstantStart，这是一个开源控制平面，旨在简化 Amazon SageMaker HyperPod 上基础模型工作负载的管理。这个新系统自动化了复杂的、多阶段的操作，如基础设施设置、依赖项安装和作业管理，减少了这些任务通常伴随的手动工作和出错的可能性。用户可以通过 Web 界面或命令行代理与 InstantStart 进行交互，两者都利用相同的后端逻辑来配置和管理资源，从而使过程更高效、更可靠。
-
AWS SageMaker HyperPod 集成新 Ray 功能以进行基础模型训练
Amazon SageMaker HyperPod 现在提供与开源 Ray 框架的增强集成，简化了基础模型的训练和部署过程。此更新允许数据科学家直接在 SageMaker Studio 中管理 Ray 集群，无需手动配置 Kubernetes 和复杂的命令行操作。该集成提供了自动容错、通过分层检查点更快地恢复作业，以及对仪表板和模型权重的简化访问。
-
AWS SageMaker HyperPod 通过分层 KV 缓存增强 LLM 推理能力
AWS 为 Amazon SageMaker HyperPod 上的大型语言模型 (LLM) 开发了一种分层 KV 缓存架构，利用 Curvine 将缓存内存从 GPU 和 CPU 扩展到共享 NVMe 池。该方法旨在通过实现不同推理副本之间的缓存重用，来降低基础设施成本并改善用户体验。该系统在跨 Pod 缓存命中率方面达到了 100%，在处理约 1,900 个 token 的提示时，首次 token 时间缩短了 2.7 倍。
-
Moonshot AI 发布 Kimi K3，一款 2.8T 参数的开源 MoE 模型
Moonshot AI 发布了 Kimi K3，这是一款拥有 2.8 万亿参数的开源专家混合（MoE）模型。该模型采用了 Kimi Delta Attention 等架构创新，提高了扩展效率，并在长时程编码和代理工作流等复杂任务上表现出色。模型权重以 MXFP4 格式在 Hugging Face 上提供，并详细介绍了如何使用 Amazon SageMaker HyperPod 和 Amazon EKS 在 AWS 上进行部署，这需要 …
-
《龙腾世纪》创作者认为系列已死；Amazon SageMaker 增强推理
《龙腾世纪》系列创作者 David Gaider 认为，由于《龙腾世纪：守望者》表现不佳，该系列很可能已经结束。尽管如此，他表示如果机会出现，他愿意回归该系列。另外，Amazon SageMaker HyperPod 推出了增强企业推理的新功能，包括多层数据捕获、直接从 Hugging Face Hub 部署以及与 NVM Express 和 Route 53 的集成。
-
AWS SageMaker HyperPod 通过新功能提升企业 AI 推理能力
Amazon SageMaker HyperPod 推出了新功能，以增强生成式 AI 工作负载的企业推理能力。这些更新包括在推理管道的各个节点改进数据捕获能力，提供更强的可观测性和可审计性。该平台现在支持直接从 Hugging Face 等社区中心进行部署，并内置了受控访问和版本固定功能。通过 NVMe 存储降低延迟以提升性能，并通过细粒度的 IAM 权限和自动 DNS 管理增强安全性。
-
AWS SageMaker HyperPod 支持企业智能体进行多轮强化学习训练
AWS 在 Amazon SageMaker HyperPod 上推出了一种用于训练多轮强化学习智能体的新基础设施。该系统利用 Amazon Nova Forge，旨在通过从整个交互序列中学习，而不是孤立的响应，来优化智能体处理复杂的多步工作流。部署涉及一个事件驱动的管道，该管道可自动配置计算资源并路由奖励，使智能体能够学习工具编排和错误恢复，以完成诸如玩 Wordle 等任务。
-
AWS SageMaker 集成 NVIDIA Isaac Lab 用于机器人强化学习训练
Amazon SageMaker AI 通过集成 NVIDIA Isaac Lab 来增强机器人强化学习。这使得能够加速机器人策略的训练，例如 Unitree H1 人形机器人，可以使用 SageMaker HyperPod 进行弹性、大规模分布式训练，或使用 SageMaker Training Jobs 进行临时、按需计算。该平台旨在通过利用 GPU 加速的模拟和托管基础设施，将数月的真实世界训练压缩到数小时内，从而减轻 AI 和…