Mae
PulseAugur coverage of Mae — every cluster mentioning Mae across labs, papers, and developer communities, ranked by signal.
- authored ScienceCast 90%
- developed SSL4EO 90%
- instance of root-mean-square deviation 70%
- developed by alphaXiv 70%
- instance of Gotit.pub 70%
- instance of ScienceCast 70%
- used by Dino 70%
- instance of CatalyzeX 70%
- competes with I-JEPA 70%
- used by SSL4EO 70%
- developed Mape Morottaja 70%
- used by Masked Autoencoder 70%
7 天有情绪数据
-
新的STAMP框架增强了AI在医学图像分析中的时间感知能力
研究人员开发了STAMP，一种新颖的随机孪生掩码自编码器（Stochastic Siamese Masked Autoencoder）框架，旨在提高AI模型在分析纵向医学图像中的时间感知能力。与确定性方法不同，STAMP引入了随机过程，以更好地捕捉疾病随时间进展的固有不确定性。该框架在OCT和MRI数据集上进行了评估，与现有的时间感知MAE方法和基础模型相比，在预测年龄相关性黄斑变性和阿尔茨海默病进展方面表现出优越的性能。
-
New ScaleIn method improves time series foundation models
研究人员推出了一种新颖的时间序列基础模型（TSFM）训练方法ScaleIn，旨在解决数据集中显著尺度变化带来的问题。现有的Reversible Instance Normalization（ReVIN）等方法可能会无意中根据尺度对序列进行加权，导致ScaleCon，即大尺度序列主导训练。然而，ScaleIn确保了优化轨迹对训练序列的任意重缩放都保持不变，无论使用何种损失函数，只要它是p次齐次的。这种方法已展示出显著的改进，在GIFT-…
-
LLM和空间图增强海表温度预测
研究人员开发了一种利用大型语言模型（LLM）结合空间图来预测海表温度（SST）的新方法。该方法将历史SST数据、环境记录和海洋知识整合到文本环境中，同时动态和静态空间图捕捉近期相关性和地理关系。该系统在南海SST预测方面表现出优越性能，在十个预测步长中实现了最佳的平均绝对误差（MAE）和R平方（$\Rtwo$）。此外，它通过将趋势与知识条目匹配，为预测提供链接到来源的上下文解释。
-
新的SOC框架增强fMRI表征学习
研究人员开发了一个新的框架，通过将自监督学习构建为随机最优控制（SOC）问题来学习功能性磁共振成像（fMRI）数据的表征。该方法将大脑活动建模为连续时间潜在动力学，并优化控制策略以处理fMRI信号固有的时间不规则性和噪声。该方法统一了掩码自编码和联合嵌入预测技术，在下游应用中展示了最先进的性能，且无需模拟。
-
新基准揭示时间序列世界模型中的准确性-机制分离
研究人员开发了一个新的时间序列世界模型（TSWMs）基准和形式化方法，以解决预测准确性和机制一致性之间的分歧。研究发现，使用冻结的潜在预测空间和门控输出融合可显著提高预测误差，而时间规划编码的影响较小。至关重要的是，该研究强调，高度准确的模型在面对未执行的计划时仍可能无法正确响应，这表明需要改进训练目标，以惩罚对移位动作的不正确方向响应。
-
MIT团队的NAT-ARC使用ImageNet预训练来应对视觉ARC挑战
来自MIT何恺明团队的研究人员开发了NAT-ARC，这是一种使用纯视觉方法解决ARC（Abstraction and Reasoning Corpus）挑战的新颖方法。与以往依赖大型语言模型的方法不同，NAT-ARC利用了一个在ImageNet上预训练的视觉编码器，特别是使用了Masked Autoencoder (MAE)技术。这种预训练使模型能够从猫和狗等自然图像中学习通用的视觉理解，然后有效地迁移到彩色网格上的抽象推理任务。NA…
-
新的EPOC方法通过压缩状态改进了时间序列预测
研究人员开发了一种名为端点保持在线校正（EPOC）的新方法，用于多时序预测。EPOC通过压缩残差状态（使用低阶离散余弦变换（DCT）系数和前一个残差块的最终值）来解决在不增加过多状态存储的情况下保留残差反馈的挑战。在具有DLinear和PatchTST模型的多元序列上的评估表明，与未校正的基础预测相比，EPOC显著降低了均方误差（MSE）和平均绝对误差（MAE），同时使用的辅助状态比$\delta$-Adapter和COSA等其他方法少得多。
-
MAETrack框架通过适配预训练模型改进3D目标跟踪
研究人员开发了MAETrack，一个旨在提高大规模预训练模型（特别是掩码自编码器MAE）向3D单目标跟踪任务迁移能力的新框架。该框架解决了直接微调MAE模型因重构目标与跟踪的空间-时间匹配需求不匹配而导致跟踪效果不佳的挑战。MAETrack采用层选择性初始化（LSI）来选择性地微调浅层并重新初始化深层，以及几何残差门控（GRG）来增强特征图中的结构重要区域。在标准基准上的实验表明，MAETrack以最小的计算开销显著提升了跟踪性能。
-
新框架利用概率预测优化5G资源分配
研究人员开发了一个新的面向目标的概率预测框架，以优化5G网络中的资源分配。该方法使用Pinball Loss函数以及DeepAR和Temporal Fusion Transformers等模型，以更好地适应欠配置与过配置之间的不对称成本。在真实5G流量数据上的评估表明，与最小化MAE和RMSE等对称误差的传统方法相比，该方法可以降低运营成本并保持准确的不确定性估计。
-
用于心脏病分割的AI模型在分布外泛化方面表现不佳
一篇新的研究论文评估了用于分割先天性心脏病（CHD）解剖结构的深度学习模型的分布外（OOD）泛化能力。研究发现，分布内性能是跨队列鲁棒性的一个糟糕的预测指标，其中nnU-Net在验证集上得分很高，但在一个独立的数据集（ImageCHD）上性能显著下降。SwinUNETR展示了更好的泛化能力，并且其性能在有限的目标域监督下得到了显著提升。
-
Halo方法通过估计分布尺度来提高预测准确性
研究人员开发了一种名为Halo的方法，通过与位置参数一起估计分布的尺度参数来提高预测准确性。该方法重用了现有的深度预测器架构，并使用负对数似然目标进行训练，在各种模型和数据集上显示出均方误差（MSE）和平均绝对误差（MAE）的改进。研究发现，该方法的有效性主要取决于尺度估计，而不是尺度估计组件的具体架构，并且现有超参数通常可以重用。
-
新的LUViT方法弥合了LLM和Vision Transformer的模态鸿沟
研究人员开发了语言解锁视觉Transformer（LUViT），这是一种将大型语言模型（LLM）与视觉Transformer（ViT）集成用于视觉任务的新颖方法。LUViT通过使用掩码自动编码（MAE）联合训练ViT骨干网络，并使用低秩适应（LoRA+）层来适应LLM融合块，从而解决了模态不匹配问题。这种共同适应策略使ViT能够生成与LLM对齐的特征，并使LLM能够有效地解释视觉信息，从而在各种下游视觉任务上提高性能。
-
新框架使AI模型能够从稀疏视觉数据中识别材料
一个名为稀疏表面理解框架（SSUF）的新框架已被开发出来，用于从不完整的视觉数据中改进材料识别。SSUF同时适配了四个预训练架构——ConvAE、ViT、Swin Transformer和MAE——用于表面重建和材料分类。在仅使用10%可见图像数据的Touch-and-Go数据集上进行的实验表明，Swin Transformer在分类准确率上达到了最高的89.21%，而MAE在重建方面表现出色。ViT提供了均衡的性能，所有模型都展示了…
-
新方法以高达84.3%的准确率识别数据中的因果方向性
研究人员开发了两种新方法，预期不对称几何（AAG）和单调性指数（MI），用于识别二元数值数据中的因果方向性。AAG方法通过比较实际条件分布与使用皮尔逊相关性和K-L散度等各种度量指标的预期分布，表现出卓越的性能。在对现实世界示例的测试中，AAG的准确率高达84.3%，优于GRCI和CAREFL-H等其他方法。
-
新AI方法在数据稀疏的情况下改进材料属性预测 · 跟踪4个来源
研究人员开发了新的材料属性预测方法，特别是在数据有限的情况下。FrOGS是一种离散神经采样器，它采用混合方法，结合了自回归模型和连续时间马尔可夫链，以准确估算各种化学条件下的热力学性质。此外，DISTAL和SemiMat框架解决了与结构无关的材料属性预测问题。DISTAL利用了自监督的成分预训练和来自结构感知模型的知识蒸馏，而SemiMat则引入了一个基准和一种称为MatRank的可靠性加权目标，用于半监督回归，两者都旨在在结构或标记…
-
新的AI模型利用印度铁路网络数据预测列车延误
研究人员开发了RSTGCN，一种新颖的图卷积网络，旨在预测车站的平均列车延误。该模型结合了列车频率感知的空间注意力和已在印度铁路网络的新策展数据集上进行了测试。实验表明，RSTGCN在平均绝对误差、平均绝对百分比误差和均方根误差方面显著优于现有方法。
-
新的课程学习策略提高了遥感AI的效率
研究人员开发了一种新的遥感自监督学习课程学习策略。该方法根据样本的地理隔离度来优先排序样本，地理隔离度仅从地理位置数据派生，无需手动注释或模型反馈。该方法已显示出显著的效率提升，以一小部分训练预算实现了基线性能，并提高了下游任务的性能。
-
新框架FabriMAE增强VLA模型自我评估能力
研究人员开发了FabriMAE，一个新颖的视觉-语言-动作（VLA）模型自我评估框架。该框架名为马尔可夫注意力熵（MAE），利用内部视觉模态熵来评估动作生成的可靠性，而无需外部监督。MAE将内部注意力信号转换为架构感知的可靠性分数，在大量实验中表现优于现有基线。该框架在LIBERO-Reflect基准上进行了测试，并展示了对PI系列模型鲁棒性的改进。
-
AI利用归一化流加速大型强子对撞机探测器模拟
研究人员开发了一种使用微调归一化流（NFs）的新方法，以加速大型强子对撞机粒子探测器响应的模拟。该方法解决了ALICE零度量能器传统蒙特卡洛模拟的计算成本问题。通过采用迁移学习和针对不同粒子类型微调专用模型，新框架显著提高了模拟效率和准确性，在各种与物理相关的指标上均优于现有方法。
-
LSTM网络通过自适应学习提升电力价格预测能力
研究人员开发了一个使用长短期记忆（LSTM）网络的自适应在线学习框架，以提高加州能源市场日前电力价格预测的准确性。该模型结合了历史价格、天气数据和能源发电结构，并通过结合平均绝对误差（MAE）、Jensen-Shannon散度（JSD）和光滑度惩罚的新型自定义损失函数进行了增强。这种自适应方法在性能上优于静态模型，显著降低了均方误差（MSE）、MAE和均方根误差（RMSE）。