研究人员引入了基于轨迹的量化敏感度得分 (TQS),这是一种用于评估时间序列模型训练后量化 (PTQ) 的新颖指标。TQS 将量化重新构建为动力学系统问题,评估误差如何随时间传播和放大。这种方法允许先验敏感度估计,独立于特定的量化器选择或位宽,即使对于复杂的编译网络也能实现更好的预算规划。TQS-PTQ 框架无需校准数据或复杂近似,在资源受限环境中实现了低精度部署的稳健性能。 AI
影响 这种新的量化敏感度指标可以实现人工智能模型在资源受限环境中更高效的部署。
排序理由 该集群包含一篇研究论文,详细介绍了一种新的模型量化指标和框架。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →