实体
Multi-Agent LLM Systems
Multi-Agent LLM Systems
PulseAugur coverage of Multi-Agent LLM Systems — every cluster mentioning Multi-Agent LLM Systems across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新研究详细介绍了多智能体LLM系统中分布式后门的早期检测
研究人员开发了一种检测多智能体LLM系统中分布式后门的方法。这些攻击涉及恶意载荷的片段分布在多个智能体中，使得标准的每步安全检查难以检测。研究表明，早期检测系统可以在剩余中位数为五步时识别出99.3%的成功攻击，从而实现及时干预。然而，检测的有效性部分依赖于可移除的表面线索，如密文长度和熵，移除这些线索会显著阻碍检测的准确性和跨领域的可迁移性。
-
新方法评估多智能体LLM推理质量
研究人员开发了新的方法来评估多智能体辩论系统的推理质量，而不仅仅是检查最终答案。一种方法利用生成早期阶段的令牌级对数概率或“置信信号”来预测推理的优劣，即使没有参考答案。另一项研究发现，虽然多智能体辩论可能制造出一种共识的假象，但它实际上可能隐藏推理不一致，导致智能体表面上似乎更同意，而它们的推理却变得不那么一致。