实体
LLM-MAS
LLM-MAS
PulseAugur coverage of LLM-MAS — every cluster mentioning LLM-MAS across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的防御框架应对多智能体AI系统中不断演变的攻击
研究人员推出 OpenEvoShield，一个旨在保护基于大型语言模型的多智能体系统 (LLM-MAS) 免受不断演变攻击的新型防御框架。该协同进化系统使用非对称速率控制器来管理攻击和正常智能体行为的学习速率，从而防止在动态环境中出现性能下降。OpenEvoShield 采用正常边界更新器和基于能量的检测器来适应变化的智能体行为，并以低误报率识别新颖威胁。
-
新研究揭示LLM代理的内存中毒攻击
两篇新研究论文MemMorph和Evo-Attacker详细介绍了通过利用大型语言模型（LLM）代理的内存系统进行攻击的新方法。MemMorph通过精心设计的记录来毒害代理的长期记忆，以微妙地影响工具选择，用少量数据即可实现高成功率。Evo-Attacker使用内存增强强化学习来动态演化针对基于LLM的多代理系统（LLM-MAS）中长时域工具操纵的攻击策略。两项研究都强调了LLM代理内存模块的脆弱性，并强调了对健壮的内存级安全防护措施的迫切需求。