研究人员开发了一个名为PixelTriage的新系统,以优化多模态AI助手中的视觉信息使用。该系统位于记忆检索之后,使用一个小模型来预测哪些检索到的图像通过像素处理而非文本代理能获益最多。PixelTriage在合成数据上进行训练,并已证明其在不显著降低准确性的情况下,将视觉令牌使用量减少了11-23%,同时还加快了响应速度。 AI
影响 该系统通过减少不必要的像素处理,可以显著提高多模态AI助手的效率和速度。
排序理由 该集群包含一篇详细介绍新系统及其评估的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →