实体
Adaptive Model Compression (AMC)
Adaptive Model Compression (AMC)
PulseAugur coverage of Adaptive Model Compression (AMC) — every cluster mentioning Adaptive Model Compression (AMC) across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
自适应模型压缩提升了 Transformer 在边缘设备的效率
研究人员开发了自适应模型压缩 (AMC)，这是一个旨在使 Transformer 模型在资源受限的边缘设备上更高效的新框架。AMC 根据推理过程中不同数据 token 的重要性动态分配硬件资源。这种方法在特定硬件上将能耗降低了 59.2%，吞吐量提高了 2.24 倍，而准确率仅下降了 3.6%。
-
自适应模型压缩提升了边缘设备的 Transformer 效率
研究人员开发了自适应模型压缩 (AMC)，这是一个旨在提高大型 Transformer 模型在低功耗边缘设备上使用效率的新框架。AMC 根据数据 token 的重要性动态分配硬件资源，以高精度处理关键信息，同时降低对不太重要数据的处理强度。该方法在准确性影响很小的情况下，显著降低了能耗并提高了处理吞吐量。