edge-cloud systems

在 MoE 大语言模型中发现新的“结构化记忆”漏洞

研究人员在专家混合（MoE）大语言模型中发现了一种名为“结构化记忆”的新漏洞。该漏洞使模型不仅能记住其训练数据，还能记住处理这些数据的特定内部路径，从而创建独特的路由指纹。攻击者可以通过分析无条件生成输出来利用这一特性，即使没有原始训练数据的访问权限，也能恢复被记住的专家路径。这些发现对于分布式部署（如联邦学习和边缘-云系统）尤其令人担忧，因为路由信息会在多个信任边界暴露。