研究人员推出了 LimiX-2,这是 LimiX 系列中一个专为通用结构化数据智能设计的新模型。该模型利用上下文机制网络 (CMNs) 并使用上下文条件掩码建模 (CCMM) 进行预训练。LimiX-2 将重点从目标中心预测转移到面向机制的联合建模,学习给定上下文内数据生成的联合结构。在 TabArena、TALENT 和 BCCO 等基准测试上的评估表明,LimiX-2 超越了现有的特定数据集和表格基础模型,并且其注意力机制还能实现准确的因果骨架恢复。 AI
影响 这项研究推动了结构化数据的基础模型,有望提高各种表格任务的性能和因果理解能力。
排序理由 该集群描述了一个新模型和一篇详细介绍其架构和基准测试性能的研究论文。
在 Hugging Face Daily Papers 阅读 →
- arXiv
- Bureau of Corporations and Charitable Organizations
- Context-Conditional Masked Modeling
- Contextual Mechanism Networks
- DagsHub
- Hugging Face
- LimiX-2
- Tabarena
- Structural Causal Models
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →