研究人员开发了一种名为策略掩码私有专家 (Policy-Masked Private Experts, PMPE) 的新方法,用于控制对稀疏专家混合 (MoE) 语言模型中特定参数的访问。该技术实现了可审计和可逆的访问控制,确保未经授权的请求无法执行私有专家参数。在 Qwen3-30B-A3B 和 DeepSeek-V2-Lite 等模型上的实验表明,PMPE 在有效防止未经授权的访问的同时,还能保持私有专家在授权使用下的效用,并在工具使用和整体性能方面显示出显著的改进。 AI
影响 为稀疏 MoE 模型引入了一种新颖的安全和访问控制机制,可能影响专用功能的部署和管理方式。
排序理由 学术论文,详细介绍了控制 MoE 模型中参数访问的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- DeepSeek
- DeepSeek-V2-Lite
- Holm
- Hugging Face
- LoRA+
- Policy-Masked Private Experts
- Qwen
- Qwen3-30B-A3B
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →