Agent Mosaic

新研究揭示代理式LLM系统中的保密性泄露

一篇题为“Agent Mosaic”的新研究论文指出，代理式LLM系统存在重大的保密性风险，通过组合可访问文档中的信息，可以推断并披露敏感结论。该研究使用合成和实时代理测试量化了这种“马赛克效应”，结果显示，即使是像GPT-5.6-Sol这样的先进模型，也可能以不可忽略的比率泄露禁止信息。虽然分类标题和聚合规则等安全措施可以减少披露，但它们仍然是一个持续存在的问题，凸显了在敏感环境中加强对代理推理和披露能力的控制的必要性。