HunyuanVideo-13B
PulseAugur coverage of HunyuanVideo-13B — every cluster mentioning HunyuanVideo-13B across labs, papers, and developer communities, ranked by signal.
-
新方法LoSA和HEART加速视频扩散Transformer
研究人员开发了两种新方法LoSA和HEART，通过优化稀疏注意力机制来加速视频扩散Transformer。LoSA通过识别和移除冗余的注意力交互，在无需重新训练的情况下保持近乎无损的保真度，从而实现显著的加速。HEART利用注意力中的头部异质性，在去噪步骤中重用稳定的稀疏掩码，并根据误差敏感性校准阈值，以进一步提高效率。这两种方法都旨在改善视频生成任务的速度-质量权衡，而无需重新训练模型。
-
Sol-Attn 通过高效的稀疏注意力加速视频生成
研究人员开发了 Sol-Attn，一种新的无需训练的稀疏注意力方法，旨在加速视频生成模型的推理。与以往因僵化的路由或丢弃信息而难以兼顾效率和准确性的方法不同，Sol-Attn 在单次通过中统一了动态路由、稀疏计算和近似校正。这种方法允许动态但可控的块预算，而无需物化代理分数，并且它会重用未选定块的分数来近似其贡献。实验表明，Sol-Attn 在视频生成方面实现了高达 2.1 倍的速度提升，在视频编辑方面实现了 2.3 倍的速度提升，同…
-
新的DigenRL框架通过解耦强化学习加速扩散式生成大语言模型 · 跟踪3个来源
研究人员开发了DigenRL，一个解耦强化学习框架，旨在提高基于扩散的生成式大语言模型的效率。该新框架通过实现灵活的资源分配和兼容异构GPU来解决现有系统的局限性。DigenRL引入了生成轴流水线（GAP）和时间步长并行（TSP）等新技术，以改进rollout和训练之间的流水线操作，并结合了弹性Trainer-Assisted Generation（TAG）方法。实验表明，DigenRL显著提高了吞吐量，与当前最先进的系统相比，最高可…