KAI Scheduler
PulseAugur coverage of KAI Scheduler — every cluster mentioning KAI Scheduler across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
NVIDIA 将 Run:ai GPU 编排平台开源至 Kubernetes
NVIDIA 已根据 Apache 2.0 许可协议将其 Run:ai GPU 编排平台开源。此次发布包括 KAI Scheduler、CUDA 13.4 GPU 分片功能、配额管理功能以及使用 Kind 的本地开发环境。此举旨在增强 Kubernetes 内的 GPU 管理。
-
NVIDIA 将 Run:ai GPU 编排平台开源用于 Kubernetes
NVIDIA 已根据 Apache 2.0 许可开源了其 Run:ai 平台，这是一个用于 Kubernetes 的 GPU 编排工具。此次发布允许开发人员在无需订阅的情况下检查、分支和自托管该平台，并将其集成到 NVIDIA DSX AI Factory 中。该平台包括 KAI Scheduler 等组件，用于 GPU 感知调度，以及用于 CUDA 13.4 的 GPU Fractioning Operator，支持诸如组调度、公平…
-
NVIDIA将Run:ai GPU编排平台开源
NVIDIA已将其Run:ai GPU编排平台开源，并于10月13日发布。KAI Scheduler等关键组件可以独立使用。此次发布还通过CUDA 13.4原生支持分数GPU，取代了以前的专有方法。
-
Kubernetes LLM 服务：拥挤的领域与关键的差距已识别
在 Kubernetes 上部署大型语言模型的服务领域正在迅速发展，许多曾经开放的挑战现在已被资金雄厚的项目和标准所解决。KV 缓存感知路由、预填充/解码分离、分数 GPU 共享和基本 GPU 调度原语等领域正变得拥挤。然而，仍然存在显著的差距，特别是在将模型权重分发视为一等 Kubernetes 原语方面，这目前会导致漫长的冷启动时间。
-
Nova AI 探索用于 Kubernetes 工作负载的专用 GPU 调度器
一位Nova AI工程师详细介绍了在Kubernetes集群中为各种AI/ML工作负载高效管理GPU资源的挑战。标准的Kubernetes调度不足以应对涉及推理、训练和数据科学任务的复杂场景，这些任务需要专门处理GPU分配、作业排队和优先级管理。该团队探索了Volcano、Kueue和KAI Scheduler等专用AI/ML调度器来解决这些限制并优化GPU利用率。