实体
Xi Xiao
Xi Xiao
PulseAugur coverage of Xi Xiao — every cluster mentioning Xi Xiao across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
FOCUS框架增强了用于Vision Transformers的高光谱成像可解释性
研究人员开发了FOCUS，一个旨在增强Vision Transformers（ViTs）在应用于高光谱成像（HSI）时可解释性的新颖框架。该方法解决了理解HSI数据中ViT注意力机制的挑战，而HSI数据通常包含数百个窄波长带。FOCUS引入了类特定的光谱提示和一个可学习的[SINK] token，以生成稳定的空间-光谱显著性图和光谱重要性曲线，而无需梯度反向传播或修改ViT骨干网络。据报道，该框架将带级IoU提高了15％，并将注意力崩…
-
新方法通过高效、结构化的低秩调优增强大语言模型适应性
研究人员推出了一种名为 MLorc 的新方法，用于大语言模型的内存高效适应，该方法在训练过程中压缩参数动量。该方法旨在降低内存需求而不牺牲性能，其表现优于 LoRA 和 GaLore 等现有技术。同时，另一项研究通过信号处理的视角探讨了低秩适应（LoRA），分析了其架构和优化机制。此外，还开发了一个名为 StructLoRA 的新框架，通过过滤不相关的更新方向并确保层间一致性来改进 LoRA，从而在各种模型类型上取得了最先进的结果，且…