compressed sensing
PulseAugur coverage of compressed sensing — every cluster mentioning compressed sensing across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新理论量化神经网络特征叠加的限制
研究人员开发了一个新的理论框架来理解神经网络中的特征叠加,解决了交叉特征干扰的问题。通过将线性可达性建模为压缩感知问题,他们推导出了高概率界限,表明所需的维度与概念的数量成线性比例关系,这比以前的二次界限有了显著改进。这些发现为线性表示假设提供了量化理解,并为评估稀疏自动编码器和神经可解释性等技术提供了基础。
-
新AI方法设计压缩感知感知矩阵
研究人员开发了一种构建对压缩感知技术至关重要的感知矩阵的新颖方法。该方法利用一个学习数学性质的神经网络,而不是依赖于大型数据集或特定应用。所得的二元感知矩阵具有低互相关性,这对于完美信号恢复至关重要,并显著降低了计算成本。
-
压缩感知不适用于大语言模型推理存储压缩
由于大语言模型(LLM)推理过程中 KV 缓存数据的非稀疏性以及对确定性、无损操作的需求,压缩感知并非一种适用于压缩 KV 缓存数据的合适方法。相反,推理存储的实际改进来自于优化存储层级和访问路径,这已在 Mingxin FX100 系统中得到证明。这种方法通过将访问频率较低的数据卸载到更快的存储介质,显著降低了延迟和加载时间,同时不影响生成质量。
-
新命题将深度学习模型中的随机性和压缩联系起来
一项新命题使用 Gibbs 熵将机器学习模型中的随机性和压缩联系起来。研究人员证明,有损压缩可以被视为一种保留特定范围内信息内容的定向随机性。这一联系通过一个定理得到证明,并通过深度学习视觉任务的实验证据得到支持,显示了在随机剪枝和幅度剪枝等不同压缩方法之间,学习性能与 Gibbs 熵之间存在高度相关性。
-
新书《数据科学数学》在arXiv上发布
一本题为《数据科学数学》的新书已在arXiv上发布,作者是Thomas Strohmer。该书深入探讨了数据科学的数学基础,涵盖了奇异值分解、主成分分析、线性回归和深度学习等主题。它还探讨了压缩感知、矩阵集中不等式和非线性降维等高级概念。
-
新的AI方法增强了MRI重建和不确定性量化
两篇新研究论文提出了先进的磁共振成像(MRI)重建方法。第一篇论文介绍了一个利用稀疏性先验和马尔可夫链蒙特卡洛采样的贝叶斯框架,以改进图像重建和量化不确定性,其性能优于基于优化的方法和一些深度学习方法。第二篇论文提出了一种物理驱动的零样本自监督学习方法,该方法结合了物理一致性和非局部图像先验,以增强MRI重建,特别是在高加速因子下,并取得了最先进的结果。