PulseAugur
中
实时 19:29:28
实体 Miguel

Miguel

PulseAugur coverage of Miguel — every cluster mentioning Miguel across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
4
90 天内 4
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 4 条
  1. TOOL · CL_299212 ·

    Kubernetes GPU 利用率低下:MIG 和时间切片解决方案

    本文讨论了 Kubernetes 集群中图形处理单元(GPU)的利用率低下问题,通常导致利用率仅为 5%。文章提出了 MIG(多实例 GPU)和时间切片等解决方案来提高效率。强调的核心问题是云基础设施中闲置 GPU 资源的高成本。

  2. TOOL · CL_142300 ·

    使用 MIG 和 MPS 优化 Kubernetes 中的 GPU 共享

    本文讨论了在生产环境 Kubernetes 中实现高效 GPU 共享的策略。文章强调了将大型 GPU 分配给小型模型的挑战,并探讨了 MIG(多实例 GPU)和 MPS(多进程服务)等技术在优化资源利用方面的优势。文章还提到了在 MIG 和 MPS 不适用的情况下,时间切片作为一种替代方法。

  3. RESEARCH · CL_71036 ·

    Kubernetes GPU 节点设置对 LLM 部署至关重要

    本文详细介绍了在 Kubernetes 环境中为大型语言模型 (LLM) 准备 GPU 节点的复杂过程。文章强调,仅仅向节点添加 GPU 是不够的,因为 Kubernetes 需要有关硬件和软件堆栈的特定信息才能做出最佳放置决策。文章概述了 NVIDIA 驱动程序、CUDA 兼容性、NVIDIA Container Toolkit 和设备插件等基本组件,并强调了这些细节如何影响调度和模型部署的成功。

  4. TOOL · CL_68746 ·

    Krea 2 扩散模型将开源

    Krea 2,一个扩散模型,即将开源。这一消息由 Miguel(在 X 上也称为 @angrypenguinPNG)宣布。Krea 2 的开源预计将使 Stable Diffusion 社区受益。