Rui Miao

BlindGuard 为 LLM 多智能体系统提供针对未知攻击的无监督防御

研究人员推出了一种新颖的无监督防御机制 BlindGuard，旨在保护基于大型语言模型（LLM）的多智能体系统（MAS）免受未知攻击。该方法解决了恶意智能体通过消息交换破坏集体决策的传播漏洞。与需要标记攻击数据的监督方法不同，BlindGuard 使用分层编码器和具有对比学习的腐败引导检测器，仅从正常的智能体行为中学习。