CI-contrast neurons

分析AI模型认知障碍检测方法

研究人员调查了大型语音语言模型（LALMs）如何从语音中评估认知障碍（CI），重点是识别哪些内部组件驱动决策以及在其表示中可访问多少CI信息。他们使用CI对比神经元（CICNs），在多个LALMs和语音语料库中对这些组件与控制掩码进行了因果测试。研究发现，在某些模型中，消融一小组CICNs会显著改变预测，并且这些掩码在不同数据集上保持了特异性。此外，冻结的CICN激活的线性读出在CI检测中达到了较高的曲线下面积（AUC）得分，在某些情…