实体
BlindGuard
BlindGuard
PulseAugur coverage of BlindGuard — every cluster mentioning BlindGuard across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
BlindGuard 为 LLM 多智能体系统提供针对未知攻击的无监督防御
研究人员推出了一种新颖的无监督防御机制 BlindGuard，旨在保护基于大型语言模型（LLM）的多智能体系统（MAS）免受未知攻击。该方法解决了恶意智能体通过消息交换破坏集体决策的传播漏洞。与需要标记攻击数据的监督方法不同，BlindGuard 使用分层编码器和具有对比学习的腐败引导检测器，仅从正常的智能体行为中学习。
-
研究人员推出Gammaf，一个用于LLM多智能体系统安全基准测试的开源框架
研究人员推出了GAMMAF，一个旨在对大型语言模型（LLM）多智能体系统中的异常检测方法进行基准测试的开源框架。该平台解决了基于图的异常检测技术缺乏标准化评估环境的问题，而这些技术对于保护这些复杂系统免受诸如提示注入等漏洞侵害至关重要。GAMMAF生成合成数据集并评估防御模型，证明有效的攻击补救措施可以提高系统完整性并降低运营成本。