PulseAugur
中
实时 01:27:10
实体 Quat-Sphere-Vision

Quat-Sphere-Vision

PulseAugur coverage of Quat-Sphere-Vision — every cluster mentioning Quat-Sphere-Vision across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_268898 ·

    新型 Quat-Sphere-Vision 模型使用单一四元数进行注意力计算

    研究人员推出了一种新颖的稀疏球形视觉模型 Quat-Sphere-Vision (QSV)，该模型为注意力机制的每个 token 使用一个单一的学习单元四元数。这种方法用一个四元数取代了传统的三个学习投影 (W_Q, W_K, W_V)，该四元数同时处理注意分数和特征传输。在 CIFAR-10 和 CIFAR-100 数据集上的实验表明，移除特征传输组件会将测试准确率降低约四个百分点，而用均匀平均替换学习到的注意力权重则影响微乎其微。