研究人员开发了SMART,一个利用多模态大语言模型(MLLM)来改进手语识别和识别的新框架。该方法使用MLLM生成的运动描述作为辅助语义线索,并采用适合小批量训练的稳定视频-文本对齐方法。该框架还包含一个用于增强时间表示学习的多尺度时间适配器和一个名为CSFormer的手语识别引导识别模块,用于密集时间定位。在四个基准数据集上的实验证明了SMART在识别和识别任务中的有效性。 AI
影响 该框架可以通过提高手语翻译技术的准确性和效率,从而改善聋哑和听力障碍人士的可及性。
排序理由 该集群包含一篇研究论文,详细介绍了用于手语识别和识别的新框架。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- CSFormer
- CSL-Daily
- Disaster and Safety KSL
- Hugging Face
- Large-scale KSL
- multimodal large language model
- PHOENIX14-T
- SMART
- Transformer++
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →