OmniCache框架将扩散模型推理时间缩短35%

研究人员开发了OmniCache，一个新颖的分层缓存框架，旨在加速高分辨率图像和视频扩散模型的推理。通过利用中间扩散特征中的冗余而不改变模型权重，OmniCache针对四种类型的冗余：帧内、帧间、运动和去噪步骤。该框架通过Token Cache、Frame Cache、Block Cache和Layered Cache采用多维特征重用策略，根据相似性匹配选择可缓存的特征并跳过冗余计算。这种方法在不进行训练的情况下，在Stable Diffusion 3等模型上实现了高达35%的显著延迟降低，同时保持了视觉保真度和运动一致性。 AI

影响 该框架为扩散模型提供了显著的加速，有可能降低推理成本并提高高分辨率图像和视频生成的可用性。

排序理由 这是一篇详细介绍扩散模型新技术框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

• Flux
• Frame Cache
• Latte
• Layered Cache
• OmniCache
• page cache
• Stable Diffusion 3
• SVD-XT
• Token Cache

• 论文
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →