实体
GPU servers
GPU servers
PulseAugur coverage of GPU servers — every cluster mentioning GPU servers across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
HoliBench工具包支持基础模型的跨平台评估
一个名为HoliBench的新工具包已被开发出来，旨在解决在资源受限的CPS-IoT应用上部署基础模型（包括大型语言模型）所面临的挑战。该工具包提供了一个统一的工作流程，用于在从单板计算机到GPU服务器的各种设备上评估模型的准确性、延迟和能耗。HoliBench的平台抽象层以及对多种模型模态和推理引擎的支持，实现了全面的跨设备测量，揭示了传统工具所忽略的权衡。该开源基础设施旨在促进面向部署的基础模型评估。
-
Clos 网络架构：AI 推理集群的成本与选型框架
Clos（或称 Fat-Tree）网络架构因其可扩展性和高带宽而成为大规模 AI 推理集群的流行选择。本文分析了 Clos 网络在拥有数千个 GPU 的集群中的成本构成，包括交换机、线缆和端口密度。文章还讨论了在全面的总体拥有成本（TCO）模型中，将运营费用与初始硬件成本一并考虑的重要性，并强调了高效存储解决方案如何间接优化网络需求。