PulseAugur
中
实时 17:50:38
实体 CLS token

CLS token

PulseAugur coverage of CLS token — every cluster mentioning CLS token across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
4
90 天内 8
发布 · 30天
0
90 天内 0
论文 · 30天
4
90 天内 8
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 8 条
  1. RESEARCH · CL_322051 ·

    新的视觉Transformer增强医学图像分类的可解释性

    两篇新的研究论文介绍了一种新颖的视觉Transformer(ViT)架构,旨在提高医学图像分类的可解释性。SAP-ViT用补丁嵌入的直接聚合替换了标准的CLS token,允许进行补丁级别的贡献分析,并使用稀疏性正则化来获得简洁的解释。HierViT采用分层方法,首先预测临床相关的视觉属性,然后推断最终预测,提供特定于属性的原型和注意力图以进行更深入的理解。两种模型都旨在平衡强大的分类性能与医学应用的增强可解释性。

  2. TOOL · CL_322023 ·

    Consommé 方法优化 Vision Transformer 拆分推理效率

    研究人员开发了 Consommé,一种用于优化 Vision Transformer 中拆分推理的新颖方法。该技术通过将 CLS token 压缩为紧凑的潜在表示来解决边缘设备和服务器之间传输中间 token 的高成本问题。然后,这种潜在表示会条件化一个学习到的 Patch Gate,将 patches 合并为固定数量的 tokens,从而在其他方法失败的浅拆分深度下也能实现高效运行。Consommé 在激进的 token 预算下表现…

  3. TOOL · CL_312349 ·

    新基础模型IECG在无手动标注的情况下增强了心电图的可解释性

    研究人员开发了IECG,这是一种新颖的弱监督基础模型,旨在增强心电图(ECG)分析的可解释性。该模型无需手动标注异常区域即可执行诊断分类和异常定位。IECG利用一种结合了临床知识的弱监督注意力策略来生成伪标签,引导模型关注相关的波形区域。该模型在异常定位方面取得了最先进的性能,同时保持了强大的分类准确性,从而推动了用于心电图解释的值得信赖的基础模型的发展。

  4. TOOL · CL_289631 ·

    新方法使用区域感知Token增强图像检索

    研究人员开发了一种新颖的方法,通过用区域感知的空间Token增强视觉Transformer中的标准[CLS]Token来改进细粒度图像检索。该方法受ColBERT框架启发,利用DINOv2-reg等模型的寄存器Token来识别和整合相关图像区域。该方法旨在提高详细图像比较的检索准确性,而不会显著增加存储成本。

  5. TOOL · CL_212148 ·

    新方法可视化 Vision Transformer 中的特征演化

    研究人员开发了一种新方法,通过检查网络深度和训练时间上的特征演化来可视化 Vision Transformer (ViT) 的训练过程。利用稀疏自编码器 (SAE),他们能够识别和追踪特征在训练过程中出现和层间迁移的情况。分析显示,特征迁移(即特征最易被检测到的层发生变化)主要发生在训练早期,并且倾向于向更早的层移动,深层比浅层更早稳定。

  6. TOOL · CL_167762 ·

    基础模型块标记增强肾脏肿瘤和囊肿检测

    研究人员开发了DINOv3-MIL,一种使用基础视觉模型检测肾脏肿瘤和囊肿的新方法。该方法利用DINOv3 ViT-H/16特征的块标记,并比较了三种聚合策略:CLS标记线性探测、门控注意力多示例学习(MIL)和原型头。门控注意力MIL方法表现出卓越的性能,在KiTS23数据集的肿瘤和囊肿检测中均取得了最高的AUROC,同时通过将注意力集中在标注的病灶上,还提高了可解释性。

  7. RESEARCH · CL_167404 ·

    DuoAD 框架利用 ViT [CLS] token 增强无训练异常检测

    研究人员开发了 DuoAD,一个新颖的无训练少样本异常检测框架,它能有效利用 Vision Transformers (ViTs) 的全局上下文信息。该方法利用了 ViT [CLS] token 的双重特性,该 token 提供了异常不变的语义表示,并通过其注意力图突出异常区域。DuoAD 包含一个自动增强选择策略和一个注意力引导的特征重加权机制,无需手动调整或训练即可实现稳定的异常评分和精确的定位。

  8. RESEARCH · CL_97987 ·

    新框架探究 Vision Transformer 的几何结构和表征动态

    研究人员引入了 Transformer Geometry Observatory (TGO) 框架,旨在探索 Vision Transformers (ViTs) 的表征几何结构。首个版本 TGO-I 专门研究 ViT 表征的光谱几何结构。在 ImageNet-100 上训练的 ViT-Small/16 模型实验表明,随着训练的进行,维度利用率增加,而各向异性降低。与预期相反,信息在表征维度之间重新分配,而不是集中在少数几个主导方向上…