新的CARVE探针通过破坏帧内容来审计视频代理的可靠性

研究人员开发了CARVE，一种新的黑盒反事实探针，用于审计视频代理的可靠性。CARVE比较了当检索到的视频帧的语义内容被破坏时代理答案的变化，以及当同一管道在这些帧上重新执行时的情况。在对VideoExplorer风格的代理进行的实验中，CARVE显示出显著且可复现的效果，在帧内容被破坏时更频繁地改变代理的答案。该探针还显示出作为路由信号的潜力，提高了在基准数据集上的准确性。 AI

影响 这种新的审计方法可以提高处理视觉信息的AI代理的可靠性和可信度。

排序理由 该项目是一篇研究论文，详细介绍了一种用于AI代理的新审计方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

• alphaXiv
• arXiv
• CARVE
• CatalyzeX
• DagsHub
• Gotit.pub
• Hugging Face
• LVBench
• ScienceCast
• VideoExplorer

• 论文
• 其他

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →