PSG benchmark

新的PSGAgent框架增强了MLLM在场景图生成方面的视觉感知能力

研究人员开发了PSGAgent，这是一个旨在改进多模态大型语言模型（MLLM）理解复杂视觉场景以进行全景场景图生成（PSG）的新框架。目前的MLLM受限于静态视觉输入，常常遗漏关键细节或误解关系。PSGAgent通过允许MLLM使用区域缩放工具和视觉高亮工具等工具动态调整其视觉焦点来解决这一问题。该框架还结合了多模态思维链数据集的两阶段训练过程和用于优化工具使用的分层奖励机制，在PSG基准测试上取得了最先进的成果。