Nederlands(NL) Ascend vs CUDA: Same Qwen3-8B Model, Same Seed, 15% Token Agreement

Qwen3-8B模型在Ascend与CUDA硬件上显示出15%的Token一致性

作者 PulseAugur 编辑部 · [1 个来源] · 2026-08-16 17:47

一项技术比较显示，当Qwen3-8B模型在华为Ascend硬件上使用DashScope运行时，与在NVIDIA GPU上使用CUDA运行时，输出存在显著差异。在61个提示下，仅有15%的顶级预测Token达成一致，表明模型行为存在巨大分歧。这与在同一CUDA堆栈下，两个NVIDIA GPU之间观察到的较小分歧率形成对比。 AI

影响凸显了大型语言模型在不同硬件和软件配置下输出可能存在的不一致性，影响了可复现性和部署。

排序理由跨不同硬件/软件堆栈的模型输出的技术比较。[lever_c_demoted from research: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

Qwen3-8B模型在Ascend与CUDA硬件上显示出15%的Token一致性

报道来源 [1]

dev.to — LLM tag TIER_1 Nederlands(NL) · Ruitong · 2026-08-16 17:47

Ascend 对比 CUDA：相同的 Qwen3-8B 模型，相同的种子，15% 的 Token 一致性

<p>We ran Qwen3-8B on Ascend (DashScope) and NVIDIA A40 (CUDA) with identical parameters across 61 prompts. The result: only 15% top-1 token agreement. 98% of prompts diverged.</p> <p>Results:</p> <ul> <li>Top-1 token agreement: 15.02%</li> <li>Prompts diverging: 60/61 (98.4%)</l…

报道来源 [1]

Ascend 对比 CUDA：相同的 Qwen3-8B 模型，相同的种子，15% 的 Token 一致性

相关实体

相关话题