实体
analog compute-in-memory
analog compute-in-memory
PulseAugur coverage of analog compute-in-memory — every cluster mentioning analog compute-in-memory across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
扩散模型展示出固有的注意力机制和改进的采样技术 · 跟踪了7个来源
近期研究探索了扩散模型(一种主流的图像生成架构)的进展。一篇论文揭示了这些模型固有地利用了类似于Transformer的注意力机制,这表明注意力是一种通用的机器学习原理。另一项研究引入了控制变量分数匹配(CVSI)来提高扩散模型的采样效率并降低方差。此外,一种名为优势加权匹配(AWM)的新方法将强化学习目标与扩散模型的预训练相结合,从而显著加快了生成质量。
-
新方法为模拟内存计算硬件重新校准扩散Transformer
研究人员开发了一种新颖的方法,用于在与模拟内存计算(CIM)硬件一起使用时重新校准扩散Transformer(DiTs)。该方法解决了CIM固有的非理想性如何扭曲分类器自由指导(CFG)信号的问题,而CFG信号对于生成高质量图像至关重要。通过仅在采样过程中调整CFG尺度,该方法有效地恢复了生成质量,显著缩小了由CIM噪声在PixArt-Sigma、PixArt-alpha和DiT-XL/2等各种模型中引起的FID分数差距。
-
NANQ框架提升AI模型的模拟内存计算性能
研究人员开发了NANQ,一个新颖的量化框架,旨在提高神经网络模拟内存计算(CIM)系统的效率和准确性。与以往关注理想量化误差的方法不同,NANQ考虑了CIM阵列固有的硬件噪声和器件变异。通过模拟噪声分布,NANQ自适应地为噪声较小的区域分配更高的分辨率,并确定最优的层级比特宽度,从而在视觉和语言模型中显著提高准确性并降低困惑度。