OpenEvoShield

新的防御框架应对多智能体AI系统中不断演变的攻击

研究人员推出 OpenEvoShield，一个旨在保护基于大型语言模型的多智能体系统 (LLM-MAS) 免受不断演变攻击的新型防御框架。该协同进化系统使用非对称速率控制器来管理攻击和正常智能体行为的学习速率，从而防止在动态环境中出现性能下降。OpenEvoShield 采用正常边界更新器和基于能量的检测器来适应变化的智能体行为，并以低误报率识别新颖威胁。