WaterMoE 为专家混合（MoE）大语言模型引入高效水印

研究人员开发了 WaterMoE，一种新颖的专家混合（MoE）大语言模型水印技术。该方法通过扰动模型路由机制中的专家选择来嵌入水印信号，从而实现最小的性能下降和可忽略的推理开销。与添加后处理步骤的现有方法不同，WaterMoE 将水印直接集成到推理循环中，实现了接近未加水印模型的保真度，并且速度比最先进的技术快 4 倍。 AI

影响 在不牺牲性能或速度的情况下，能够更可靠地追踪 MoE LLM 的内容来源和检测滥用。

排序理由 该集群包含一篇详细介绍 LLM 新技术的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• arXiv
• DagsHub
• Gotit.pub
• Hugging Face
• mixture of experts
• ScienceCast
• WaterMoE

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →