实体
masked image modelling
masked image modelling
PulseAugur coverage of masked image modelling — every cluster mentioning masked image modelling across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
ViTok 模型增强计算机视觉蒸馏中的密集语义
研究人员开发了 ViTok,一种新的模型,可改进计算机视觉任务中多教师蒸馏的密集语义。通过结合 SigLIP2 和 DINOv3-L 的见解,ViTok 解决了全局识别和密集语义准确性之间的权衡问题。该模型包含多项修改,包括拆分适配器头、不对称损失和掩码图像建模,在 ImageNet-1K 和 ADE20K 基准测试中取得了强劲的性能。
-
预训练提高了天城文 OCR 效率,大幅减少了转录需求
arXiv 上发表的一项新研究调查了手写天城文识别系统注释的效率。研究人员发现,监督合成预训练显著减少了获得有用识别器所需的转录词数。具体来说,使用此方法仅需 81 个转录词即可达到 0.50 的字符错误率 (CER),而随机初始化则需要 355 个词,代表了 4.40 倍的标签乘数。研究还探讨了仅迁移编码器的影响,并观察到在某些预算范围内,掩码图像建模会产生负迁移效应。
-
scVision:新型视觉模型革新单细胞生物学分析
研究人员开发了 scVision,这是一种用于单细胞生物学的新型视觉基础模型,它将细胞表示为连续图像而非基因标记。该方法利用空间基因图谱,将共表达基因排列为空间邻居,形成一个基因程序显示为局部纹理的图像。scVision 在数百万个人类细胞上使用视觉 Transformer 和掩码图像建模进行了预训练,与现有模型和经典基线相比,在零样本细胞类型注释和基因程序恢复方面表现出更高的准确性。模型性能受基因定位的生物学意义的显著影响,这凸显了…