研究人员开发了PrePARE,一种通过在Token进入交替注意力(AA)堆栈之前对其进行剪枝来优化多视图几何Transformer的新颖方法。这种方法显著减少了内存使用量并提高了处理速度,使得像VGGT和MapAnything这样的复杂模型可以在性能较低的硬件上运行。PrePARE通过仅训练一个Token Scorer和一个Feature-guided Restoration模块来实现这一点,而核心AA堆栈保持冻结状态,在ScanNetv2等数据集上展示了显著的内存节省和性能提升。 AI
影响 该方法有望在标准硬件上实现更高效的复杂多视图几何模型的训练和部署。
排序理由 这是一篇详细介绍优化现有Transformer模型新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →