Nunchux AI

Nunchux AI 发布 VC-Attention 以加速视频扩散 Transformer

Nunchux AI 开发了 VC-Attention，这是一种新颖的、无需训练的低比特注意力核，旨在加速视频扩散 Transformer。这项创新解决了两个关键瓶颈：值量化误差和缓慢的 softmax 计算。通过实施 V-Smooth 等技术来管理值异常值，以及使用 ExpCast-FP8 进行高效的对数域指数运算，VC-Attention 显著加速了视频生成模型中的注意力机制。