研究人员开发了 TileShare,一种无需额外训练即可加速 Vision Transformer (ViT) 模型解码过程的新颖方法。该技术解决了固定窗口 ViT 解码器中的计算冗余问题,其中重叠的切片会导致重复处理。通过将重叠 token 的结果智能地融合到共享状态中,并为每个切片选择性地保留几层,TileShare 显著减少了计算量。该方法在各种视频和图像数据集上实现了更快的解码速度,使用 FP8 时最高可达 1.96 倍,同时保持了可比或更优的性能指标,如 PSNR、LPIPS 和 DISTS。 AI
影响 提供了一种无需训练即可提高 Vision Transformer 模型推理速度的方法,有望降低 AI 应用的计算成本。
排序理由 该条目是 arXiv 预印本,详细介绍了一种加速现有模型的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →