研究人员开发了 AdaVFM,一个旨在提高大型视觉基础模型在边缘设备上效率的新框架。该系统利用多模态 LLM 进行运行时控制,根据场景和任务的复杂性动态调整计算负载。实验表明,AdaVFM 显著改善了准确性-效率权衡,将计算成本降低了高达 77.9%,同时保持了高准确性。 AI
影响 AdaVFM 可以在资源受限的边缘设备上实现更强大的 AI 功能,扩展始终在线的上下文 AI 的应用。
排序理由 这是一篇详细介绍在边缘设备上高效执行模型的新框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →