研究人员推出了 Omni-DuplexEval,这是一个旨在评估 AI 系统中实时双工全模态交互的新基准。现有模型通常是离线评估的,未能捕捉到现实世界应用所需的持续输入处理和及时响应能力。Omni-DuplexEval 通过包含连续描述和主动事件识别的场景来解决这一问题,利用 660 个视频和一个 LLM-as-a-Judge 框架进行自动评估。初步实验揭示了当前最先进模型存在的显著局限性,它们在平衡响应时间和内容连贯性方面存在困难。 AI
影响 该基准旨在提高多模态 AI 系统的实时交互能力,这对于它们在动态、现实世界环境中的部署至关重要。
排序理由 该集群描述了一篇介绍用于评估 AI 系统的基准的新学术论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →