研究人员探讨了视觉模型能从音频数据中学到多少物理理解,特别是阻尼特性。音频嵌入在按阻尼品质因数(Q)对物体进行排序方面表现出很强的能力,实现了0.73的Spearman秩相关系数,显著优于得分0.28的单个视频帧。通过一个将音频知识转移到视觉模型的蒸馏过程,该模型恢复了部分优势,表明视觉模型确实可以从音频线索中学习物理知识。 AI
影响 展示了一种为视觉模型注入物理理解的新方法,有可能提高其现实世界决策能力。
排序理由 详细介绍新研究发现的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →