Yipu Zhang

新的FGQ方法大幅缩小了视觉几何Transformer模型尺寸

研究人员开发了一种新的训练后量化方法，称为Fisher引导量化（FGQ），以减少视觉几何基础Transformer（VGGT）的内存和计算开销。这些模型用于3D视觉任务，如深度估计和相机姿态预测，拥有数十亿个参数，阻碍了在设备上部署。FGQ通过使用Fisher信息矩阵来指导量化过程并保留关键组件，解决了模型不同部分在不同任务上对量化误差的敏感度差异问题。