PulseAugur
实时 08:34:09
English(EN) 3D-Aware VLMs with Implicit and Explicit Geometries

新的VLM-IE3D框架提升了视觉语言模型中的3D空间理解能力

研究人员推出了一种新颖的VLM-IE3D框架,旨在增强视觉语言模型(VLMs)的3D空间感知能力。该框架集成了从RGB视频中提取的隐式和显式3D几何信息,无需额外的3D输入数据。VLM-IE3D利用隐式几何令牌(IGTs)来获取高级几何先验知识,并利用显式几何令牌(EGTs)来捕捉详细的几何结构,通过一个3D感知的适配器进行融合。实验表明,VLM-IE3D在视频检测、视觉定位、密集字幕和空间推理等多种3D任务中均表现出色。 AI

影响 增强了VLMs的3D空间推理能力,有望改进机器人、AR/VR和自动驾驶系统等领域的应用。

排序理由 该集群包含一篇详细介绍新VLM框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的VLM-IE3D框架提升了视觉语言模型中的3D空间理解能力

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Wenhao Li, Xueying Jiang, Quanhao Qian, Deli Zhao, Ran Xu, Shijian Lu, Gongjie Zhang ·

    具有隐式和显式几何的3D感知VLMs

    arXiv:2607.21595v1 Announce Type: cross Abstract: Despite rapid progress, most existing vision-language models (VLMs) built from 2D visual inputs often struggle when handling various 3D tasks that require fine-grained spatial understanding and reasoning. To bridge this gap, we pr…