Contextual integrity
PulseAugur coverage of Contextual integrity — every cluster mentioning Contextual integrity across labs, papers, and developer communities, ranked by signal.
-
LLM 在上下文完整性方面存在困难，高达 69% 的情况下会泄露敏感数据
新的研究强调了在大型语言模型 (LLM) 中保持上下文完整性方面存在的重大挑战。一个名为 CIMemories 的基准测试显示，即使是 GPT-5 等先进模型，也可能出现高达 69% 的属性级别违规，在不同任务和重复运行中不当地泄露敏感用户信息。另一项研究探讨了使用推理和强化学习来灌输上下文完整性，结果显示在保持任务性能的同时，不当披露得到了显著减少。这些发现表明，当前的 LLM 缺乏稳健信息控制所需的细致、依赖上下文的推理能力，这表…
-
Bruce Schneier 探讨大型语言模型中的语境完整性
Bruce Schneier 的博客讨论了与大型语言模型 (LLM) 相关的语境完整性概念。他重点介绍了探讨该主题的两篇学术论文，强调了它对人工智能和完整性的重要性。讨论涉及人工智能、隐私和安全方面的影响。
-
新AI研究聚焦代理协作中的隐私问题
两篇新研究论文提出了增强AI代理协作中隐私的方法。第一篇DiSan使用双流编码器将文本中的任务语义与识别来源的风格分离开来，无需集中原始数据即可进行联合训练，并显著减少了风格计量归因。第二篇MINIM充当了LLM驱动代理的本地代理，学习UI元素的敏感度和必要性分数，在传输到远程服务器之前最小化敏感数据泄露，同时保留任务关键信息。
-
新的大型语言模型基准测试隐私；Ollama 支持本地人工智能
研究人员开发了 IDP-Bench，这是一个旨在评估大型语言模型（LLM）在相互依赖的隐私场景中保护个人信息能力的基准。该基准使用情境完整性框架，发现尽管许多开源大型语言模型能够识别数据的共同所有权，但在识别关键隐私参数和判断数据共享的适当性方面却存在困难。另外，Ollama 作为一个开源工具越来越受欢迎，它允许用户在自己的机器上本地运行大型语言模型，与基于云的 API 相比，提供了增强的隐私和成本节约。