实体 reViT-B/16

reViT-B/16

PulseAugur coverage of reViT-B/16 — every cluster mentioning reViT-B/16 across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_289673 · Oct 8 · 00:00

循环视觉 Transformer 用单个块实现全深度编码器精度

研究人员开发了一种新颖的循环视觉 Transformer (reViT)，它利用单个 Transformer 块进行递归应用，从而达到与全深度视觉编码器相当的精度。这种方法将每个递归深度的前馈网络 (FFN) 表示为共享专家的组合，这些专家由归一化的深度坐标进行编程。reViT 模型在 ImageNet-1k 上的监督训练和从 DINOv2 教师蒸馏方面均表现出色，其性能优于其他混合专家 (MoE) 系列，并以显著更少的参数实现了 D…