SageAttention2
PulseAugur coverage of SageAttention2 — every cluster mentioning SageAttention2 across labs, papers, and developer communities, ranked by signal.
-
Nunchux AI 发布 VC-Attention 以加速视频扩散 Transformer
Nunchux AI 开发了 VC-Attention,这是一种新颖的、无需训练的低比特注意力核,旨在加速视频扩散 Transformer。这项创新解决了两个关键瓶颈:值量化误差和缓慢的 softmax 计算。通过实施 V-Smooth 等技术来管理值异常值,以及使用 ExpCast-FP8 进行高效的对数域指数运算,VC-Attention 显著加速了视频生成模型中的注意力机制。
-
RunningHub通过开源优化将MiniMax H3视频模型加速12倍
RunningHub开发了一种名为H3 Lightning的开源优化技术,显著加速了MiniMax H3人工智能视频生成模型。该新方法可将视频生成速度提高高达12倍,将生成一个5秒视频的时间从近6分钟缩短到多GPU设置下的28.7秒。该优化通过减少计算步骤、使用SageAttention2和Cache-DiT等技术改进核心计算,并优化多GPU通信来实现,同时保持BF16精度并针对常见的企业硬件配置。
-
Stable Diffusion 社区讨论 MiniMax H3 的优化和局限性
用户正在为 Stable Diffusion 讨论和优化 MiniMax H3 模型,重点关注提高生成速度和探索其局限性。几篇帖子详细介绍了加速模型的方法,包括使用 SageAttention2 等特定的注意力机制和 SPEED 节点扩展,以及 Turbo 模型变体。讨论还涵盖了硬件配置,例如在 RTX 5090 或 AMD Radeon RX 7900XT 上运行模型,以及速度与输出质量之间的权衡。一些用户正在尝试微调并分享他们的发…