PulseAugur
中
实时 07:10:31
实体 Multimodal Rotary Position Embedding

Multimodal Rotary Position Embedding

PulseAugur coverage of Multimodal Rotary Position Embedding — every cluster mentioning Multimodal Rotary Position Embedding across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_351951 ·

    新研究解析了视觉语言模型中的空间效应

    研究人员调查了多模态旋转位置嵌入（MRoPE）在视觉语言模型中的影响。MRoPE通过引入高度、宽度和时间轴来编码视觉标记的空间结构，从而扩展了旋转位置嵌入（RoPE）。然而，它也为文本标记分配了空间坐标，可能引入跨模态空间效应。该研究将视觉内部空间结构与这些跨模态效应分离开来，发现虽然视觉内部编码有利于细粒度对齐，但跨模态空间效应几乎没有带来额外的好处，甚至可能降低性能。