ViT-Small

赫布快速权重增强了用于少样本字符识别的 Vision Transformer

研究人员通过将赫布快速权重 (HFW) 模块集成到 Vision Transformer 架构中，开发了一种新的少样本字符识别方法。与依赖固定表征的标准 Transformer 不同，该方法旨在模仿生物神经网络在推理过程中形成瞬时联想记忆的能力。当应用于 Swin-Tiny 模型时，该策略在 Omniglot 基准测试的 5 路 1 样本分类中达到了 96.2% 的准确率，在 5 路 5 样本分类中达到了 99.2% 的准确率，略优于…