AgentOCR

新的CAPS框架弥合了视觉-文本压缩中的智能体策略差距

研究人员开发了一个名为CAPS（跨模态智能体策略自蒸馏）的新框架，以解决多步语言模型智能体在视觉-文本压缩中的能力差距。当交互历史被转换为图像时，这种差距会出现，从而影响智能体性能。CAPS采用两阶段自蒸馏过程，使用更强的文本历史策略作为监督者来训练视觉历史智能体策略。该方法在SearchQA和ALFWorld等任务上显著提高了性能，同时大幅降低了内存-上下文成本。