wavelet
PulseAugur coverage of wavelet — every cluster mentioning wavelet across labs, papers, and developer communities, ranked by signal.
-
新框架通过极限核分析编码器-解码器算子学习
本文介绍了一种分析编码器-解码器架构中算子学习的新颖框架。它在函数空间上构建算子学习,解决了有限维训练数据表示的挑战。研究表明,随着输入和输出分辨率的增加,诱导核收敛到极限核,从而实现分辨率无关的正则性假设。该工作还为正则化随机梯度下降提供了理论界限,并将分析扩展到使用极限神经切线核的编码器-解码器神经网络。
-
小波编码的傅里叶神经网络算子加速超材料设计模拟
研究人员开发了一种新方法,使用小波编码的傅里叶神经网络算子(FNOs)来解决物理学中的复杂特征值问题,特别是用于超材料设计。该方法能有效预测弹性波动方程的多个本征模,这些本征模代表了任意超材料几何结构中声波的变形模式。小波编码对于匹配FNO的空间-频谱结构至关重要,即使存在几何不连续性也能实现准确的模式选择和预测。这种代理模型显著加速了超材料设计的模拟阶段,与传统的有限元分析相比,速度提高了三个数量级,同时保持了高保真度。
-
压缩感知不适用于大语言模型推理存储压缩
由于大语言模型(LLM)推理过程中 KV 缓存数据的非稀疏性以及对确定性、无损操作的需求,压缩感知并非一种适用于压缩 KV 缓存数据的合适方法。相反,推理存储的实际改进来自于优化存储层级和访问路径,这已在 Mingxin FX100 系统中得到证明。这种方法通过将访问频率较低的数据卸载到更快的存储介质,显著降低了延迟和加载时间,同时不影响生成质量。
-
TimeLAVA框架为时间序列提供无学习数据估值
研究人员推出TimeLAVA,一个旨在为时间序列数据中的时间段进行估值的新型无学习框架。该方法通过捕捉时间依赖性和多尺度模式来解决现有方法的局限性,这些模式对于医疗保健、金融和工业监控等应用至关重要。TimeLAVA利用一种新颖的选择性小波基Wasserstein距离,结合小波变换和不平衡最优传输,无需模型训练即可高效计算段值。
-
新框架统一了深度神经网络的表示成本
一篇新的研究论文介绍了一个统一的框架,用于分析参数化数据拟合方法的表示成本。该框架揭示了各种模型(包括核方法、小波和浅层神经网络)的诱导函数空间作为特例。对于具有ReLU激活的深度神经网络,该论文证明了它们的原生空间是拟Banach空间,其中归纳偏倚无法通过深度大于两层的范数来捕捉。
-
神经网络学习函数空间的自适应标准正交基
研究人员开发了一种新颖的方法,使用神经网络来学习和优化函数空间的标准正交基。与傅里叶或小波等固定基不同,这种方法允许基适应特定的数据集或问题。该技术将标准正交基建模为李流形上的路径,由参数化的神经网络驱动的常微分方程驱动。研究表明,即使使用低秩生成器,这些由神经网络定义的路径也可以近似任何目标标准正交基,在主成分分析和物理模拟等应用中显示出灵活性。
-
新的DPP核利用小波改进机器学习小批量
研究人员开发了使用小波的新型行列式点过程(DPP),以改进机器学习任务的小批量生成。这些新颖的DPP提供了可证明的更优准确性保证,并提供了一种将连续DPP转换为适合子采样的离散核的通用方法。该方法提高了方差缩减和计算效率,将基于DPP的方法的适用性扩展到正则性较低的目标函数。