研究人员推出了一种新颖的语义感知标记器HeatTok,旨在提高多模态大语言模型(MLLM)对遥感图像的理解能力。与分割对象的传统基于块的方法不同,HeatTok采用热扩散聚合方法创建语义独立、对象对齐的标记。为了更好地表示这些不规则形状,研究团队还开发了高斯多模态旋转位置嵌入(G-MRoPE)来编码空间分布和几何线索。在VRSBench和EarthVQA数据集上的评估表明,HeatTok增强了对象级别的语义完整性,并取得了最先进的结果。 AI
影响 这种新的标记化方法可以通过提高对象识别和语义完整性来增强LLM在遥感等专业领域的性能。
排序理由 该集群描述了arXiv论文中提出的一种用于计算机视觉任务的新方法和标记器。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- EarthVQA
- Gaussian Multimodal Rotary Positional Embedding
- G-MRoPE
- HeatTok
- MLLMs
- Multimodal Large Language Models
- VRSBench
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →