实体
Mutual K-Nearest Neighbor
Mutual K-Nearest Neighbor
PulseAugur coverage of Mutual K-Nearest Neighbor — every cluster mentioning Mutual K-Nearest Neighbor across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新方法对齐注意力头以提升多模态大语言模型性能
研究人员推出了一种名为 Head-Wise Representation Alignment (HeRA) 的新方法，用于增强多模态大语言模型 (MLLMs)。HeRA 专注于对 Transformer 架构中的单个注意力头进行对齐，而非固定层，以改善跨模态理解。该方法基于 Platonic Representation Hypothesis，并使用对比目标来保留表征的拓扑结构。实验表明，对齐对齐度最低的头能带来跨多个基准测试的最显著…
-
新方法HeRA对齐MLLM中的注意力头，以提升视觉任务表现
研究人员推出了一种新方法HeRA，用于对齐多模态大语言模型（MLLMs）中的注意力头。该方法侧重于保留不同模态（如视觉和语言）之间表示的拓扑结构。通过将基于K近邻互信息（Mutual K-Nearest Neighbor）的对比目标应用于单个注意力头，HeRA旨在提高视觉任务的性能并减少视觉幻觉。在各种MLLMs和基准测试上的实验表明，对齐最不匹配的注意力头能带来最显著的提升。