实体
volcano
volcano
PulseAugur coverage of volcano — every cluster mentioning volcano across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
AI生成的短片描绘了机器人在火山上烹饪
一位用户创作了一部名为《火山上的烹饪》的AI生成短片，片中一个巨大的黄色机器人在活火山上准备食物。故事的高潮是火山爆发，将机器人炸飞，这成为了一个幽默的警示故事。
-
Nova AI 探索用于 Kubernetes 工作负载的专用 GPU 调度器
一位Nova AI工程师详细介绍了在Kubernetes集群中为各种AI/ML工作负载高效管理GPU资源的挑战。标准的Kubernetes调度不足以应对涉及推理、训练和数据科学任务的复杂场景，这些任务需要专门处理GPU分配、作业排队和优先级管理。该团队探索了Volcano、Kueue和KAI Scheduler等专用AI/ML调度器来解决这些限制并优化GPU利用率。
-
Kubernetes LLMOps：GPU效率、成本工程与调度挑战
在Kubernetes上部署大型语言模型（LLMs）面临着超越基本编排的重大挑战，尤其是在GPU效率和成本管理方面。诸如GPU利用率低下、成本迅速攀升以及不可预测的延迟等问题，源于分配不等于利用。诸如批处理和模型多路复用等优化虽然强大，但会引入调度和资源管理的复杂性，Kubernetes可以促进但无法完全自动化。有效的LLMOps需要转向成本工程，将支出视为首要约束而非事后考虑，以确保经济可行性。