PulseAugur
中
实时 09:44:20
English(EN) NANQ: Noise-Floor-Aware Mixed-Precision Non-Uniform Quantization for Analog Compute-in-Memory

NANQ框架提升AI模型的模拟内存计算性能

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了NANQ，一个新颖的量化框架，旨在提高神经网络模拟内存计算（CIM）系统的效率和准确性。与以往关注理想量化误差的方法不同，NANQ考虑了CIM阵列固有的硬件噪声和器件变异。通过模拟噪声分布，NANQ自适应地为噪声较小的区域分配更高的分辨率，并确定最优的层级比特宽度，从而在视觉和语言模型中显著提高准确性并降低困惑度。 AI

影响 NANQ的噪声感知方法可能在专用硬件上实现更节能、更准确的AI推理。

排序理由 该集群包含一篇详细介绍AI硬件新技术框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

NANQ框架提升AI模型的模拟内存计算性能

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Yizhe Chen, Wenshuai Yao, Saiya Wang, Yuannuo Feng, Wenbo Qi, Kechao Tang, Ngai Wong, Wenyong Zhou, Wang Kang ·

    NANQ：面向模拟计算内存的噪声基底感知混合精度非均匀量化

    arXiv:2608.02700v1 Announce Type: cross Abstract: Analog compute-in-memory (CIM) enables energy-efficient neural network inference, but device variation and read noise can severely degrade low-bit quantized models. Existing CIM-oriented quantization methods mainly minimize ideal …

相关话题