实体
LAION-2B
LAION-2B
PulseAugur coverage of LAION-2B — every cluster mentioning LAION-2B across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
大型预训练数据集可能阻碍微调后的鲁棒性
一篇题为“大型预训练数据集不保证图像分类微调后的鲁棒性”的新研究论文指出，在海量数据集上预训练的模型进行微调可能导致严重的灾难性遗忘和分布外泛化能力的损失。研究人员提出了鲁棒性继承基准（ImageNet-RIB）来评估这种现象。他们的发现表明，在LAION-2B等更大、更多样化的数据集上预训练的模型可能比在较小数据集上训练的模型遭受更大的鲁棒性损失，这挑战了更大预训练总是带来更好下游性能的假设。
-
研究发现场景文本识别模型在罕见组合上表现不佳
研究人员发现，场景文本识别模型在遇到罕见的词语组合时存在显著的性能差距。尽管在标准基准测试中取得了进展和较高的总体准确率，但模型在处理不常见的单词和字符组合时遇到了困难。即使使用了扩展的视觉骨干网络，这个问题仍然存在，这表明问题不在于容量，而在于自回归解码器的词汇先验。虽然像CTC解码这样的架构更改显示出希望，但目前的缓解技术只能提供边际改进。