LLM-MAS
PulseAugur coverage of LLM-MAS — every cluster mentioning LLM-MAS across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
MIRROR 原始机制可防御针对 LLM 多智能体通信的攻击 · 已追踪 2 个来源
研究人员推出了一种新颖的通信层完整性原始机制 MIRROR，旨在保护大型语言模型多智能体系统 (LLM-MAS) 免受中间人攻击 (AiTM)。MIRROR 将消息复制到多个逻辑路径，仅当严格多数路径报告相同的摘要时才接受消息，从而防止传输中的消息被篡改。在跨各种基准和框架的测试中，此方法有效地将攻击成功率降至 0%，同时与 LLM-as-a-Judge 等替代方法相比，计算成本极低。
-
新的防御框架应对多智能体AI系统中不断演变的攻击
研究人员推出 OpenEvoShield，一个旨在保护基于大型语言模型的多智能体系统 (LLM-MAS) 免受不断演变攻击的新型防御框架。该协同进化系统使用非对称速率控制器来管理攻击和正常智能体行为的学习速率，从而防止在动态环境中出现性能下降。OpenEvoShield 采用正常边界更新器和基于能量的检测器来适应变化的智能体行为，并以低误报率识别新颖威胁。
-
新研究揭示LLM代理的内存中毒攻击
两篇新研究论文MemMorph和Evo-Attacker详细介绍了通过利用大型语言模型（LLM）代理的内存系统进行攻击的新方法。MemMorph通过精心设计的记录来毒害代理的长期记忆，以微妙地影响工具选择，用少量数据即可实现高成功率。Evo-Attacker使用内存增强强化学习来动态演化针对基于LLM的多代理系统（LLM-MAS）中长时域工具操纵的攻击策略。两项研究都强调了LLM代理内存模块的脆弱性，并强调了对健壮的内存级安全防护措施的迫切需求。