Badri Narayana Patro

量子启发式Transformer (QiT) 推进视觉识别

研究人员开发了QiT，一种用于视觉识别任务的量子启发式Transformer模型。QiT利用了量子模型的结构思想，例如角度启发式编码和周期性特征自注意力，来创建一个模仿量子神经网络特性的经典Transformer。虽然不使用量子计算，QiT旨在经典模型中分离和评估受量子启发的归纳偏差。该模型在图像分类基准测试中表现出竞争力，其QiT-B变体在ImageNet-1K上达到了78.3%的top-1准确率。