Independent Thread Scheduling

NVIDIA GPU的Warp Divergence行为在不同架构中保持稳定

一篇新论文分析了从Pascal到Blackwell的NVIDIA GPU架构中的Warp Divergence。研究发现，发散路径会随着路径数量线性串行化，这种行为自Pascal一代以来一直保持一致。虽然发散的核心性能成本一直可预测，但NVIDIA在其编译器发出的重新收敛机制和控制流指令方面，在Ampere、Hopper和Blackwell等架构中已显著发展。