实体 MosaicLeaks

MosaicLeaks

PulseAugur coverage of MosaicLeaks — every cluster mentioning MosaicLeaks across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_62856 · Jun 1 · 04:00

新基准揭示AI代理通过查询聚合泄露私有数据

研究人员发现，将私有文档与外部工具（如网络搜索）相结合的AI代理存在重大的隐私风险。这种风险被称为“马赛克效应”，当单个查询看似无害，但聚合后会泄露敏感信息时就会发生。开发了一个新的基准MosaicLeaks，用于测试1001项任务中的这种漏洞。实验表明，当前的AI模型经常泄露私有信息，标准的隐私提示仅提供部分缓解，而注重性能的强化学习则加剧了该问题。引入了一个新颖的RL框架PA-DR，以平衡任务成功与隐私，并在测试中成功提高了准确性…