MLPerf
PulseAugur coverage of MLPerf — every cluster mentioning MLPerf across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
NVIDIA Jetson Thor 在边缘 AI 基准测试中表现出色，超越参考堆栈
NVIDIA 的 Jetson Thor 平台在 MLPerf 新推出的边缘智能体基准测试套件中展现了卓越的性能。它比同等硬件上的参考堆栈快 6.4 倍完成了任务，同时将约 96% 的提示 token 保存在热缓存中。这表明，对于边缘 AI 推理而言，高效的长上下文重用可能比原始处理能力（TOPS）成为更重要的瓶颈。
-
MLPerf 存储基准测试揭示排行榜与 AI 云现实的脱节 · 跟踪 3 个来源
最新的 MLPerf 存储基准测试结果显示，排行榜上的顶级性能表现者与运营最大 AI 云存储基础设施的公司之间存在显著差距。StorageReview 强调了这种差异，并指出当前的 MLPerf 存储基准测试可能无法准确反映真实 AI 云环境的实际存储需求。
-
新的HARGO方法优化大型语言模型以适应多样化的HPC任务
研究人员开发了HARGO，这是一种新颖的优化技术，旨在提高大型语言模型（LLMs）在多样化的高性能计算（HPC）任务上的性能。传统的强化学习方法难以应对HPC任务的极端异构性，这些任务涵盖了从数据竞争检测到事实问答的各种内容。HARGO通过引入一种异构感知方法来解决这个问题，该方法使用置信度调制优势来动态加权响应，而无需显式的任务标签。该方法在多个指标上均取得了优异的结果，为复杂HPC环境中的对齐质量树立了新标准。
-
MLC 支持在浏览器、iPhone 和 AMD 显卡上运行大型模型
由卡内基梅隆大学（CMU）的 Tianqi Chen 领导的机器学习编译（MLC）小组正在开发 MLC Chat 和 Web LLM 等框架，以支持在包括 iPhone 和网页浏览器在内的消费级硬件上运行大型语言模型。该计划旨在通过允许模型在配备 AMD 显卡甚至仅 CPU 的设备上本地运行，来缓解当前的 GPU 短缺问题。Hugging Face 的 text-to-webapp 生成器和 Gradio 等项目也在为开发者和最终用户…