Rachmad Vidya Wicaksana Putra

新框架PSViT和PrimeSVT对SViT模型进行剪枝以提高效率

研究人员开发了两个新框架PSViT和PrimeSVT，用于压缩脉冲视觉Transformer（SViTs），使其更适合资源受限的设备。PSViT采用结构化剪枝方法，包括通道级滤波器剪枝和敏感性分析，以减小模型尺寸并保持准确性。PrimeSVT提供了一种自动化的、内存感知的方​​法，该方法根据层大小和鲁棒性优先进行压缩，在不牺牲性能的情况下实现显著的内存节省。