Chunyu Ye

新的BCI框架利用LLM解码多模态脑信号

研究人员开发了一种新颖的脑机接口（BCI）框架，该框架通过利用多模态大语言模型（MLLMs）从脑信号中解码语言。这种方法将大脑活动与文本、图像和音频对齐，超越了单模态表示。动态路由模块融合了特定于模态的脑部特征，在fMRI、EEG和MEG数据上取得了最先进的性能，在一个通用基准上提高了8.48%。这种统一的架构是同类中的第一个，能够稳健地解码跨越不同信号类型和刺激的多模态脑活动。