H200
PulseAugur coverage of H200 — every cluster mentioning H200 across labs, papers, and developer communities, ranked by signal.
- competes with Tiangai 300 90%
- instance of Blackwell 90%
- used by NVIDIA H100 70%
- instance of NVIDIA H100 70%
- used by GLM 5.3 70%
- competes with Blackwell 70%
- competes with GLM 5.3 70%
- competes with RTX 5090 70%
- acquired by Blackwell 70%
- used by RTX 5090 70%
- used by Supermicro 70%
- competes with MI300X 70%
- 2026-08-19 product_launch First shipments of Nvidia's H200 AI chips have reached China, with ByteDance and Tencent as initial recipients. 来源
- 2026-05-14 product_launch US government approves sale of NVIDIA H200 AI chips to ten Chinese companies.
25 天有情绪数据
-
基础LLM提供高效的文本决策,节省时间和计算资源
Remigiusz Kinas开发的一系列名为basal的开放决策模型,为特定文本任务提供了比大型生成式LLM更高效的替代方案。这些模型,特别是basal-2.0-4.5b,能够以比大型模型所需时间分数和计算资源完成路由或分类问题的处理和回答。虽然basal模型在许多任务上实现了高精度,但它们不生成文本或提供解释,需要单独的生成模型来完成这些功能。
-
Qwen3.8-27B 可处理 262K 词元,初始等待后数秒内响应
对 Qwen3.8-27B 大型语言模型的最新分析揭示了其处理长文档的性能,展示了高达 262,144 词元的上下文窗口。在处理一个 260,000 词元的文档时,初始查询大约需要 52 秒,而随后对同一文档的提问则在 2 秒内得到回答。该模型能够准确检索预设事实并指出信息缺失的情况,每次查询 260,000 词元文档的成本估计为 0.05 美元。
-
用于大型语言模型的经济高效 GPU:显存容量胜过速度
运行和训练大型语言模型 (LLM) 的最佳 GPU 取决于具体任务和显存需求,而非原始速度。对于高达 70B 参数的 4 位精度模型服务或 QLoRA 微调等单用户任务,24 GB 或 48 GB 的显卡,例如 NVIDIA RTX A6000,通常是最具成本效益的选择。NVIDIA H100 或 B200 等高端 GPU 更适合全参数微调或分片训练等要求更高的任务,其更高的成本可以通过更快的完成时间来证明其合理性。
-
英伟达在面临中国出口限制和前CEO回归呼声的同时,业绩强劲
英伟达正面临着其强劲的财务业绩与中国战略和领导层相关的外部压力之间的两难境地。公司报告了强劲的收益,但正根据美国政府的政策,对向中国出口的H200芯片实施更严格的出口管制。与此同时,埃隆·马斯克等知名人士公开呼吁前CEO黄仁勋回归,这形成了一种内部信心与外部疑虑并存的叙事。
-
太空数据中心因抵押品问题面临融资挑战
太空数据中心的融资正成为一个重大障碍,因为贷方不愿使用轨道上的芯片作为抵押品,因为难以收回。这与陆基数据中心形成对比,后者在违约时贷方可以没收芯片。据报道,SpaceX 最近的一项融资协议包括一项条款,以防止在其轨道数据中心计划中使用芯片,尽管结果尚不清楚。虽然 SpaceX 和初创公司等公司正在探索太空计算,但由于需要更昂贵的芯片以及对未来如 Starship 等火箭能力(例如 Starship)的依赖,经济性进一步复杂化。
-
美国批准近88万颗AI芯片供中国公司使用,包括Nvidia和AMD型号
美国已批准向中国公司出口近88万颗AI芯片,包括Nvidia H200和AMD MI325X型号。5月的快照显示,这些批准涉及21个应用,但尚未有任何芯片发货。该数据来自Mastodon上分享的一份快照。
-
新的成本模型加速分布式数字伊辛机
研究人员开发了一个校准的成本模型,用于分析分布式数字伊辛机的性能,数字伊辛机是组合优化和概率采样的专用加速器。该模型将计算时间分解为计算、内存、同步和设备间通信的项。基于该模型,团队提出了一些加速技术,包括数据放置策略、多速率和有界陈旧调度以及相位偏移流数据流,这些技术共同提高了求解时间。
-
英伟达暂停向中国运送H200芯片;英特尔裁员;腾讯AI取得进展
英伟达已确认将停止向中国运送H200 AI芯片,结束了此前的安排,并符合美国的出口管制政策。与此同时,据报道英特尔正在进行新一轮全球裁员,继续其重组努力。在其他科技新闻中,腾讯报告了强劲的第三季度财报,其AI业务取得了突破,Hy4模型和WorkBuddy应用程序获得了显著的用户参与度。
-
Palmer Luckey 呼吁 Jensen Huang 复职英伟达
Anduril 首席执行官 Palmer Luckey 认为,英伟达罢免首席执行官 Jensen Huang 的决定有利于中国。Luckey 认为中国希望 Huang 离职,他的离职削弱了英伟达和美国半导体行业。尽管在芯片出口政策上存在分歧,Luckey 认为中国阻止英伟达向中国公司销售 GPU,以促进国内芯片发展。一份由包括知名科技领袖在内的 20 多万人签署的请愿书呼吁 Huang 复职,但英伟达表示没有重新任命他的计划。
-
人工智能基础设施重心转向内存,成本随之上升
人工智能基础设施格局正在发生变化,对于大型语言模型(LLM)的推理服务而言,内存成本正变得比计算能力更为重要。vLLM推理引擎的最新版本0.34.0,默认情况下会利用几乎所有可用的GPU内存作为KV缓存,将驻留上下文增加了高达55%,但在高负载下可能会增加每个token的解码延迟。这一变化,加上内存价格上涨以及引入具有显著更大HBM容量的加速器,使得重新评估人工智能部署策略成为必要,应优先考虑内存决策而非传统的浮点运算次数(flop …
-
英伟达暂停向中国销售先进AI芯片,此前已获批准 · 追踪4个来源
英伟达已停止向中国运送其先进AI芯片,特别是H200处理器。此举是在获得白宫的继续销售批准后做出的。公司临时CEO Colette Kress在财报电话会议上宣布了这一暂停,并指出未来的预测已将中国地区这些产品的任何收入排除在外。此次突然变化的确切原因尚未披露,但此前有报道称,美国对获得这些芯片的中国公司的审查表示担忧,以及中国正努力减少对美国技术的依赖。
-
英伟达因新的美国法规暂停向中国销售H200芯片
据代理CEO Colette Kress称,英伟达将停止在中国销售其H200芯片。此举是在新的美国法规出台之后,该法规禁止先进芯片被用于为中国客户服务的外国数据中心。尽管有这些变化,Kress表示此举不会影响英伟达的收入。
-
美国对 Nvidia 芯片走私商 Megaspeed 展开刑事调查
美国政府通过司法部和商务部,已对总部位于新加坡的公司 Megaspeed 展开刑事调查。该公司涉嫌规避先进人工智能芯片的出口管制。Megaspeed 此前与 Nvidia CEO 黄仁勋有关联,并有一名高管被指控为中国间谍。该公司于 2025 年 6 月被列入 Nvidia 的“禁止销售”名单。尽管如此,其一家马来西亚子公司据称在八个月内继续接收 Nvidia 芯片,可能用于运往中国。此次调查是在此前对 Megaspeed 涉嫌走私价…
-
vLLM 0.34.0 通过动态 KV 缓存回收 GPU 内存,更新默认设置
vLLM 发布了 0.34.0 版本,对其默认设置和模型运行器进行了重大更改。此次更新移除了旧的 Model Runner V1,将默认块大小更改为 64,并将 GPU 内存利用率设置为 1.0。一项关键改进是实现了可扩展的 KV 缓存,该缓存根据 CUDA 图捕获和预热后的测量内存使用情况动态调整缓存大小,消除了之前 8% 的 GPU 保留,并可能在高端 GPU 上回收高达 15 GiB 的内存。这种新方法测量实际内存需求,而不是依…
-
FlashSampling 将精确采样集成到 LM 头中以加快令牌生成速度
研究人员开发了 FlashSampling,这是一种用于大词汇量语言模型的精确采样新方法,它将采样直接集成到语言模型头的矩阵乘法中。该方法避免在高速缓存存储器 (High Bandwidth Memory) 中具体化整个 logits 张量,而是在芯片上逐块计算 logits 并添加 Gumbel 噪声。FlashSampling 可将每个输出令牌的时间减少高达 10%,并通过将 GPU 到 GPU 通信与计算重叠来提高效率。
-
新模型推进了以自我为中心的视频交互手部控制
研究人员开发了两种用于通过手部运动理解和交互视觉世界的新模型。EgoHandWAM 在一篇 arXiv 论文中进行了详细介绍,专注于从以自我为中心的视频预测未来的视觉特征和手部轨迹,表明手部运动显著有助于动作建模。LynnReal-Hand 也在 arXiv 上发表,并被 Hugging Face 重点介绍,它引入了一个能够进行精确物体交互和高效流式生成的手部控制视频世界模型,实现了高准确率和实时性能。
-
LLM性能与显存需求:深入解析每秒token数与内存计算
理解LLM的性能和内存需求对于高效部署至关重要。对于推理速度,关键指标是总的每秒token数(TPS)以实现成本效益,以及每秒每用户token数以获得可感知的响应速度,建议的最低值为每秒30-50个token。内存需求取决于模型权重(参数数量和精度)、KV缓存(上下文长度和批次大小)以及开销。量化,特别是量化到4位或8位,显著降低了权重内存需求,而分组查询注意力可以最小化KV缓存大小。对于微调,由于激活和梯度,内存需求会大幅增加,尽管…
-
Clover-35B-A3B 扩散模型集成到 llama.cpp 以供本地使用
Clover-35B-A3B-Preview 模型,一个扩散语言模型,已被集成到 llama.cpp 中,这是一个流行的本地运行模型的工具。在 RTX 4090 上的初步测试显示速度为每秒 202-211 个 token,完整的上下文窗口需要近 22 GB 内存。模型的文件格式遇到了挑战,需要一个补丁来正确加载和处理权重,这些权重的结构与传统的自回归模型不同。
-
中国顶级AI模型中使用被禁止出口到中国的英伟达芯片 · 追踪到1个来源
一项新的研究工作声称,中国最先进的AI模型使用了被禁止出口到该国的英伟达芯片进行训练。该研究表明,包括DeepSeek和Moonshot AI在内的模型,带有英伟达Blackwell GPU的数字指纹。这一发现引发了对美国旨在保持技术优势的出口管制有效性的担忧,因为这些芯片可能通过离岸数据中心或其他途径获得。
-
指南详述使用LoRA和QLoRA廉价微调Qwen模型
本文提供了关于高效微调Qwen模型的技术指南,特别关注使用LoRA和QLoRA技术以降低成本。它详细介绍了如何根据模型大小和量化方法选择合适的GPU硬件,并为RTX A6000和A100 80 GB等显卡提供了具体建议。该指南还区分了Qwen3与更新的Qwen3.5/3.6/3.8视觉语言模型,解释了它们不同的架构和训练要求。