新的BCI框架利用LLM解码多模态脑信号

研究人员开发了一种新颖的脑机接口（BCI）框架，该框架通过利用多模态大语言模型（MLLMs）从脑信号中解码语言。这种方法将大脑活动与文本、图像和音频对齐，超越了单模态表示。动态路由模块融合了特定于模态的脑部特征，在fMRI、EEG和MEG数据上取得了最先进的性能，在一个通用基准上提高了8.48%。这种统一的架构是同类中的第一个，能够稳健地解码跨越不同信号类型和刺激的多模态脑活动。 AI

影响 这项研究通过实现更细致的思想解码，推动了脑机接口的发展，有望改善可访问性和人机交互。

排序理由 该项目是一篇研究论文，详细介绍了脑机接口的新框架。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• Chunyu Ye
• DagsHub
• electroencephalography
• functional magnetic resonance imaging
• Gotit.pub
• Hugging Face
• Meg
• Multimodal Large Language Models and Tunings: Vision, Language, Sensors, Audio, and Beyond
• ScienceCast

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →