PrivacyLens+
PulseAugur coverage of PrivacyLens+ — every cluster mentioning PrivacyLens+ across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的LLM框架解决了多用户系统中隐私-效用权衡问题
研究人员开发了新的框架和方法来解决大型语言模型（LLM）交互中的隐私问题。一种名为AIM的方法为多代理、多用户LLM环境引入了一个隐私感知内存系统，允许动态地将信息分类为私有或公共，以改善协调并保护敏感数据。另一项研究系统地分析了LLM交互中的隐私-效用权衡，提出了一种意图驱动的框架，该框架动态地清理数据以保持效用。此外，BodhiPromptShield为LLM代理管道提供了一个预推理中介层，在敏感跨度传播到系统之前检测并替换它们，…
-
LLM 在上下文完整性方面存在困难，高达 69% 的情况下会泄露敏感数据
新的研究强调了在大型语言模型 (LLM) 中保持上下文完整性方面存在的重大挑战。一个名为 CIMemories 的基准测试显示，即使是 GPT-5 等先进模型，也可能出现高达 69% 的属性级别违规，在不同任务和重复运行中不当地泄露敏感用户信息。另一项研究探讨了使用推理和强化学习来灌输上下文完整性，结果显示在保持任务性能的同时，不当披露得到了显著减少。这些发现表明，当前的 LLM 缺乏稳健信息控制所需的细致、依赖上下文的推理能力，这表…
-
新框架LiSA通过稀疏的失败数据增强AI护栏
研究人员开发了LiSA（Lifelong Safety Adaptation，终身安全适应）新框架，旨在通过从稀疏且嘈杂的失败数据中学习来改进AI护栏。LiSA使用结构化记忆从个体事件中进行泛化，结合了用于混合标签上下文的冲突感知规则，并采用证据感知置信门控。这种方法在PrivacyLens+和AgentHarm等基准测试中，即使在存在显著标签噪声的情况下，也始终优于现有的基于记忆的方法，为保护AI代理免受不可预测的现实世界风险提供了…