BeyondArena
PulseAugur coverage of BeyondArena — every cluster mentioning BeyondArena across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的注意力量化加速表格基础模型
研究人员为表格基础模型开发了一种新的注意力量化策略，以提高推理性能。该方法侧重于将查询、键和值量化为 FP8，并利用显式的 FP8 矩阵乘法指令。一项关键发现是，必须在训练和测试数据之间对齐量化误差，以防止精度下降。开发的 Triton 内核在标准 16 位内核上实现了高达 1.7 倍的加速，同时在 TabPFN-v3 和 TabICLv2 等模型在基准数据集上的表现没有显著的精度损失。
-
NVIDIA Kumo Tabular：发布用于表格数据的新基础模型
NVIDIA 发布了 Kumo Tabular，一个用于表格数据的开源基础模型，现已在 Hugging Face 上可用。该模型是 NVIDIA Kumo Structured 系列的一部分，无需训练、调优或特征工程，即可在单次前向传播中预测新行的标签。它在人工数据上进行了预训练，有三种尺寸，在 TabArena 和 BeyondArena 等多个基准测试中取得了顶级排名。
-
Google推出TabFM用于表格数据；新研究探讨模型局限性
Google Research推出了TabFM，一个用于表格数据的零样本基础模型，该模型与BigQuery ML集成，以简化分类和回归任务。与需要大量手动调优的传统方法不同，TabFM使用上下文学习，在单次传递中从未见过的数据表中生成预测。同时，几篇研究论文探讨了表格基础模型的能力和局限性，其中一篇论文强调了关于规则约束数据的推理存在形式化障碍，另一篇论文则引入了一个基准来评估模型在标准独立同分布（IID）数据集之外的通用性。