FGLGuard

新的FGLGuard系统通过联邦图学习增强LLM多智能体安全

研究人员开发了FGLGuard，一种用于增强由大型语言模型（LLM）驱动的多智能体系统（MAS）安全性的新颖系统。该方法利用联邦图学习在智能体间通信图上训练图神经网络（GNN），从而能够在不跨组织汇集敏感数据的情况下定位和干预风险智能体。FGLGuard在Agent-SafetyBench、R-Judge和AgentDojo等基准测试中表现出色，优于集中式方法和仅本地训练的方法，同时保持了高可用性和最小的能力损失。