研究人员开发了QMapAnything,一个新颖的训练后量化(PTQ)框架,旨在优化利用Transformer进行相机姿态和深度预测等任务的前馈3D模型。该框架解决了异构令牌类型共享单个量化网格的挑战,这可能导致令牌类型之间出现差异化退化。QMapAnything采用一种结构感知的方法,将浮点数保持旋转和去平滑视为令牌无关的重参数化组。它引入了一个统计量Gamma,用于识别何时需要超越标准旋转的差异化偏差校正。实验表明,QMapAnything在W4A8量化下实现了接近全精度模型的性能,并在W8A8量化下显著减少了峰值内存使用量并提高了实际硬件上的速度,使其适用于资源受限的边缘部署。 AI
影响 使得在资源受限的边缘设备上更高效地部署3D重建模型成为可能。
排序理由 这是一篇详细介绍优化现有模型架构的新技术框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →