实体
Mixed-precision arithmetic
Mixed-precision arithmetic
PulseAugur coverage of Mixed-precision arithmetic — every cluster mentioning Mixed-precision arithmetic across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新方法通过先进的量化技术增强LLM效率 · 跟踪4个来源
研究人员正在开发新的方法，通过量化感知训练和训练后量化来提高大型语言模型的效率。Q-PACE是一种新方法，它根据敏感性分析动态地为模型层分配精度，以在保持性能的同时减少内存预算。另一种方法，层级误差归因，通过在层级分析量化误差，专注于快速稳健的混合精度训练后量化，显示出显著的速度提升和对损坏数据的鲁棒性。TR-PTQ通过重新构建泰勒区域以实现仅整数计算，减少了精度下降，解决了量化Transformer架构的挑战。此外，STEPQuan…
-
SEADA方法优化多精度架构上的混合精度深度神经网络
研究人员开发了SEADA，一种在多精度空间架构上优化深度神经网络（DNN）的新型方法。该方法通过提供一个可配置的成本模型、一个用于整数加速器的快速映射工具以及用于浮点层的分析模型，解决了混合精度网络映射的挑战。SEADA利用基于比特级熵的逐层精度选择来高效地分配数值精度，为设计者提供了一个探索多精度架构设计空间的强大框架。