研究人员开发了FGLGuard，一种用于增强由大型语言模型（LLM）驱动的多智能体系统（MAS）安全性的新颖系统。该方法利用联邦图学习在智能体间通信图上训练图神经网络（GNN），从而能够在不跨组织汇集敏感数据的情况下定位和干预风险智能体。FGLGuard在Agent-SafetyBench、R-Judge和AgentDojo等基准测试中表现出色，优于集中式方法和仅本地训练的方法，同时保持了高可用性和最小的能力损失。 AI
影响 通过实现隐私保护的安全训练，这项研究可能有助于在敏感环境中更安全地部署基于LLM的多智能体系统。
排序理由 该集群包含一篇详细介绍LLM安全新方法的 ist 研究论文。
在 arXiv cs.MA (Multiagent) 阅读 →
- AgentDojo
- Agent-SafetyBench
- Federated Graph Learning
- FGLGuard
- graph neural network
- LLM-Based Multi-Agent Systems
- R-Judge
- arXiv
- Hugging Face
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
