PulseAugur
中
实时 19:29:53
English(EN) RouteHijack: Routing-Aware Attack on Mixture-of-Experts LLMs

新的RouteHijack攻击利用了MoE大语言模型的漏洞

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种名为RouteHijack的新攻击方法，该方法针对混合专家（MoE）大语言模型（LLMs）。该攻击利用了MoE架构中的路由机制，识别并操纵关键的安全专家以绕过对齐防护。RouteHijack在包括视觉语言模型在内的各种MoE模型上都取得了显著的成功率，凸显了稀疏专家架构中的根本性漏洞。 AI

影响 揭示了MoE架构中的根本性漏洞，需要超越输出层对齐的新防御策略。

排序理由 详细介绍MoE大语言模型新型攻击方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的RouteHijack攻击利用了MoE大语言模型的漏洞

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Zhiyuan Xu, Joseph Gardiner, Sana Belguith, Lichao Wu ·

    RouteHijack: Routing-Aware Attack on Mixture-of-Experts LLMs

    arXiv:2605.02946v1 Announce Type: new Abstract: Safety alignment is critical for the responsible deployment of large language models (LLMs). As Mixture-of-Experts (MoE) architectures are increasingly adopted to scale model capacity, understanding their safety robustness becomes e…

相关实体

相关话题