Hopper
PulseAugur coverage of Hopper — every cluster mentioning Hopper across labs, papers, and developer communities, ranked by signal.
- 2026-05-12 product_launch Hypercubic launched Hopper, an agentic development environment for mainframes and COBOL. 来源
3 天有情绪数据
-
中国LongCat-2.0模型采用高效MoE设计，在无英伟达硬件下完成训练
美团开发了LongCat-2.0，一个拥有1.6万亿参数的语言模型，完全在中国国产AI芯片上训练，避免使用英伟达硬件。该模型的效率源于其混合专家（MoE）架构，每个token仅使用3%的参数。这种设计显著降低了每步的工作负载和网络流量，使其能够在性能较低的非英伟达加速器上进行训练。
-
为什么GPU在AI硬件中占据主导地位，尽管存在专用替代品
尽管存在Groq的LPU和Cerebras的WSE等专用硬件，但由于巨大的经济和结构性障碍，GPU在AI领域仍然占据主导地位。这包括定制芯片开发所需的巨额资本以及匹配英伟达成熟的CUDA生态系统，还有架构变化可能导致专用硬件过时的风险。此外，英伟达持续的路线图改进以及超大规模云服务商已在GPU基础设施上投入的巨额资本，都促使他们维持现状，而不是用更便宜的替代品来颠覆它。
-
MiniMax AI发布开源M3模型，支持100万上下文
MiniMax AI发布了其新的开源模型MiniMax M3，该模型拥有100万token的上下文窗口和先进的功能。该模型采用了名为MSA的新型稀疏注意力架构，其中包括专用的预填充和解码内核。它支持NVIDIA Hopper和Blackwell架构上的BF16和MXFP8格式，通过前缀缓存和分块预填充实现了长上下文的高效服务。
-
NVIDIA Blackwell 系统领跑新的 Agentic AI 基准测试
NVIDIA 在首个 AgentPerf 和 Agentic AI Benchmark 的 agentic AI 基准测试中创下了新的性能记录。该公司由 Blackwell 架构驱动的 GB300 NVL72 系统在 agentic AI 工作负载中，性能比上一代 Hopper 架构提升了高达 20 倍。这项由 Artificial Analysis 开发的新基准测试，专门衡量 AI 基础设施在持续、多步 agent 轨迹而非单一提示…
-
每瓦特令牌数将决定 2026 年 GPU 和散热方案
2026 年 AI 计算的主要瓶颈将从原始处理能力转向效率，特别是每瓦特令牌数。这是因为推理（目前占 AI 计算支出的绝大部分）本质上是一个功耗受限的问题，尤其是在数据中心功耗分配固定的情况下。因此，能够最大化每兆瓦特生成令牌数的最高效 GPU 将比那些拥有最高 FLOPS 的 GPU 更受青睐。服务软件和数值精度（如 FP8 和 FP4）的进步可以在不要求新硬件的情况下显著降低每令牌成本，提供比仅购买更多 GPU 更直接、更具成本效…
-
用户优化 DeepSeek v4 Flash 在 Hopper 上的速度至 200 tok/s
一位用户分享了在本地运行 DeepSeek v4 Flash 模型进行优化的技巧，在 Hopper 系统上实现了近 200 token/秒的速度。通过利用 Canada-Quant 的特定量化以及修补 vLLM 中的 MTP 代码，用户显著提高了推理速度。该帖子还详细说明了成本影响，指出目前 token 生成的电力成本已超过收入。
-
斯坦福大学的ThunderKittens DSL优化AI内核性能
一篇新文章详细介绍了ThunderKittens，这是斯坦福大学Hazy Research Lab开发的一种紧凑型领域特定语言（DSL），用于创建高性能AI内核。该DSL旨在通过抽象重复的GPU编程任务（如切片布局和内存分配）来平衡研究生产力和硬件效率。这使得开发人员能够密切关注数据移动和调度，同时仍能优化现代AI工作负载在NVIDIA的Hopper和Blackwell等硬件上的性能。
-
台湾打击走私至中国的AI芯片
台湾已启动首次正式打击非法出口AI芯片的行动，突袭了12个地点，并追捕三名涉嫌伪造文件和欺诈申报的逃犯。此举是更广泛努力的一部分，旨在阻止受限的NVIDIA硬件（特别是来自Super Micro Computer Inc.服务器的硬件）流入中国和其他受限地区，这直接违反了美国的贸易限制。此次打击标志着台湾政府在赖清德总统领导下的一项重大政策转变，旨在确保全球AI供应链安全并回应华盛顿的压力。
-
Hypercubic 发布用于大型机的 Hopper agentic 界面
Hypercubic 推出了 Hopper，这是一个专为大型机和 COBOL 设计的 agentic 开发环境。该工具允许 AI 代理与遗留系统交互，能够执行诸如导航 TN3270、检查数据集、编写 JCL 和调试作业等任务。Hopper 旨在通过为这些复杂的老旧系统提供现代化的界面来更新大型机开发。
-
Perplexity 的研究表明 NVIDIA GB200 在 LLM 推理方面表现出色
Perplexity 发布了一项研究，详细介绍了他们如何在 NVIDIA 的 GB200 NVL72 Blackwell 机架上部署大型语言模型，特别是 Qwen3 235B。研究结果表明，与之前的 NVIDIA 硬件相比，GB200 平台在大型模型推理方面提供了显著的改进，具有更低的延迟和更高的吞吐量。这项研究强调了 GB200 在训练和高吞吐量推理方面的能力，特别是对于专家混合（MoE）模型。
-
Superhuman 和 Databricks 构建 200K QPS AI 推理平台
Superhuman 和 Databricks 的工程师合作构建了一个高吞吐量的推理平台，能够处理每秒超过 200,000 个查询。这项联合工作使 Superhuman 的服务堆栈现代化，从自定义的 vLLM 设置迁移到 Databricks 的 Model Serving Platform。优化后的系统实现了每 GPU 吞吐量提高 60%，并保持了亚秒级的 P99 延迟，使 Superhuman 能够专注于产品开发。
-
研究人员使用扩散模型进行合成演示的模仿学习
研究人员开发了SD2AIL，一种新颖的对抗性模仿学习方法，该方法利用扩散模型生成合成专家演示。该方法旨在通过增加AI生成的示例来克服收集大量真实世界专家数据的挑战。该系统还采用优先回放策略来关注最有价值的演示，在Hopper环境等模拟任务上显示出显著的性能提升。
-
Poolside AI 发布开源 Laguna XS.2 和 M.1 编码模型
Poolside AI 发布了两款新的代理式编码模型 Laguna M.1 和 Laguna XS.2，以及它们的代理训练和运行时间。Laguna M.1 是一个大型混合专家（MoE）模型，在 NVIDIA Hopper GPU 上使用 30T 个 token 进行训练，而 Laguna XS.2 是一个较小的开源模型，可在 Apache 2.0 许可下使用。这些模型专为长周期任务设计，旨在实现能够编写和执行代码的更强大的 AI 代理。
-
Nvidia 优先考虑每 token 成本，投资数十亿美元用于 AI 基础设施
Nvidia 正在将其在 AI 基础设施方面的重点从原始计算能力转移到每 token 成本，认为这一指标更能反映业务价值和盈利能力。该公司还在对 AI 所需的物理基础设施进行重大投资，包括与 IREN 建立一项价值数十亿美元的合作关系以部署数据中心，以及对康宁公司进行大量投资以扩大国内光纤生产。这些举措凸显了 Nvidia 控制从芯片到底层物理基础设施的整个 AI 堆栈的战略，以确保高效和可扩展的 AI 部署。
-
Eugene Yan 提倡每周进行15-5更新，以提高团队可见性和信任度
Eugene Yan 提倡每周进行一次15-5更新，这是一种旨在花费15分钟撰写和5分钟阅读的简短报告。这种做法通过跟踪工作、成果和障碍来增强团队的可见性，从而减少会议中用于状态更新的时间。它还可以作为已创建或已审查的工件（如代码和文档）的记录，并通过提供关于进展和挑战的透明度来帮助建立信任。Yan 建议使用内部维基或 Confluence 页面进行这些更新，并且可以选择通过电子邮件共享。
-
BigScience 训练大型语言模型，NVIDIA 发布新款 H100 GPU
BigScience 正在训练一个大型语言模型，吸引了全球的广泛关注。与此同时，NVIDIA 发布了其最新一代 GPU，即“Hopper”系列。这些进展以及其他与 AI 相关的新闻，在最近一期 Practical AI 播客中得到了讨论。