实体
Javier Porras-Valenzuela
Javier Porras-Valenzuela
PulseAugur coverage of Javier Porras-Valenzuela — every cluster mentioning Javier Porras-Valenzuela across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的 Transformer 训练方法增强了鲁棒性和泛化能力
研究人员开发了一种新颖的约束优化框架来训练 Transformer，将其视为优化下降算法。该方法强制执行层级下降约束，并使用对偶-原始训练方案代替标准的经验风险最小化。结果表明，在视频去噪和文本分类实验中，这种“约束 Transformer”在保持分布内任务性能的同时，对扰动的鲁棒性以及分布外泛化能力得到了提高。
-
图变换器显示尺寸可迁移性，可与GNN媲美
研究人员在图变换器（GTs）与流形神经网络（MNNs）之间建立了理论联系，特别是在GTs使用基于GNN的位置编码时。本研究表明，GTs继承了其位置编码的可迁移性保证，这意味着在较小图上训练的模型可以泛化到较大的图。在标准基准测试上的实验结果证实，GTs表现出与GNN相当的可扩展行为，并在估计地形上的最短路径距离方面展示了实际应用。