实体
MPNet: Masked and Permuted Pre-training for Language Understanding
MPNet: Masked and Permuted Pre-training for Language Understanding
PulseAugur coverage of MPNet: Masked and Permuted Pre-training for Language Understanding — every cluster mentioning MPNet: Masked and Permuted Pre-training for Language Understanding across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
GNN在异质图上的性能取决于节点表示
一篇新的研究论文探讨了图神经网络(GNN)在异质图上的性能,在异质图中,连接的节点通常具有不同的标签。研究发现,不同GNN架构的有效性在很大程度上取决于所使用的节点表示类型。例如,在Roman-Empire基准测试中,使用上下文Transformer嵌入而非静态fastText向量所带来的性能提升在不同架构之间存在显著差异,GAT比GCN-sep显示出更大的改进。这表明在评估GNN在异质环境中的鲁棒性时,架构选择和表示策略不能孤立地进行评估。
-
迈向通用表格嵌入:跨数据任务的基准测试
研究人员开发了两个用于改进表格数据处理的新框架。其中一个名为“通过表示稳定性提高表格检索的鲁棒性”(Improving Robustness of Tabular Retrieval via Representational Stability),通过平均不同格式的嵌入来创建规范表示,解决了基于Transformer的表格检索系统中的序列化敏感性问题。另一个框架SAGE(Sparse Adaptive Guidance)是一个基于LL…