Distributed Backdoors

新研究详细介绍了多智能体LLM系统中分布式后门的早期检测

研究人员开发了一种检测多智能体LLM系统中分布式后门的方法。这些攻击涉及恶意载荷的片段分布在多个智能体中，使得标准的每步安全检查难以检测。研究表明，早期检测系统可以在剩余中位数为五步时识别出99.3%的成功攻击，从而实现及时干预。然而，检测的有效性部分依赖于可移除的表面线索，如密文长度和熵，移除这些线索会显著阻碍检测的准确性和跨领域的可迁移性。