MosaicLeaks
PulseAugur coverage of MosaicLeaks — every cluster mentioning MosaicLeaks across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Hugging Face 探索 AI 代理安全和 CLI 优化 · 跟踪 3 个来源
Hugging Face 正在探索用于 AI 代理的新工具和概念，重点关注其安全性和操作效率。一项研究领域，以“MosaicLeaks”项目为重点，研究 AI 代理在调查期间是否能保持机密性。此外，Hugging Face CLI 的开发正在针对代理与 Hub 的交互进行优化，旨在简化代理在平台内的操作方式。vLLM 项目也在提高强化学习调整前的准确性方面被提及。
-
Hugging Face 详细介绍 vLLM 更新、代理 CLI 和数据安全研究 · 跟踪 3 个来源
Hugging Face 发布了多篇博文，详细介绍了新的发展和研究。其中一篇博文讨论了 vLLM 从 0 版本到 1 版本的发展，重点关注预强化学习的准确性。另一篇博文介绍了 hf CLI 作为一种针对代理优化的与 Hugging Face Hub 交互的方法。此外，一篇题为 MosaicLeaks 的博文探讨了调查代理的安全性和它们保守秘密的能力。
-
Hugging Face 详解 vLLM、用于代理的 CLI 和 MosaicLeaks 安全性
Hugging Face 发布了多篇博客文章，详细介绍了 AI 工具和研究的新进展。其中一篇文章讨论了 vLLM 从 0 版本到 1 版本的演变，重点关注其在强化学习纠正之前的准确性。另一篇文章介绍了 Hugging Face CLI 作为一种用于与 Hub 交互的代理优化方法。此外，一篇题为 MosaicLeaks 的文章探讨了调查代理的安全性及其保持机密的能力。
-
新的MosaicLeaks基准揭示AI研究代理会泄露私人数据
研究人员推出了MosaicLeaks，这是一个新的基准，旨在评估将私人本地文档与外部工具相结合的AI研究代理所带来的隐私风险。这些代理可能会通过其网络查询无意中泄露敏感信息，即使单个查询看起来无害。MosaicLeaks基准包含超过1000个多跳研究链，这些研究链交织了公共和私人信息，以模拟真实世界的场景。已经开发了一种新颖的训练方法，称为隐私感知深度研究（PA-DR），以减轻这种泄露，提高了任务成功率，同时显著减少了通过代理查询暴露…
-
新基准揭示AI代理通过查询聚合泄露私有数据
研究人员发现，将私有文档与外部工具（如网络搜索）相结合的AI代理存在重大的隐私风险。这种风险被称为“马赛克效应”，当单个查询看似无害，但聚合后会泄露敏感信息时就会发生。开发了一个新的基准MosaicLeaks，用于测试1001项任务中的这种漏洞。实验表明，当前的AI模型经常泄露私有信息，标准的隐私提示仅提供部分缓解，而注重性能的强化学习则加剧了该问题。引入了一个新颖的RL框架PA-DR，以平衡任务成功与隐私，并在测试中成功提高了准确性…