研究人员开发了SMART,一个利用多模态大语言模型(MLLM)统一手语识别和识别的新框架。该方法利用MLLM生成的运动描述作为语义线索,以改善视频-文本对齐,即使在小批量大小的情况下也是如此,这对于内存密集型手语视频训练至关重要。SMART还增强了时序表示学习和密集时序定位,并在四个基准数据集上证明了其有效性。 AI
影响 该框架可以通过改进自动手语翻译来促进聋哑和听障社区的可及性。
排序理由 该集群描述了一篇研究论文,其中详细介绍了一种用于手语识别和识别的新框架。
在 Hugging Face Daily Papers 阅读 →
- arXiv
- CSFormer
- CSL-Daily
- Disaster and Safety KSL
- Hugging Face
- Large-scale KSL
- multimodal large language model
- PHOENIX14-T
- SMART
- Transformer++
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →