Contextual Integrity (CI) theory

研究发现：大型语言模型内部编码隐私规范但仍会泄露数据

一篇新的arXiv论文研究了大型语言模型（LLMs）如何处理隐私信息，发现虽然模型内部表征了隐私规范，但它们仍然会泄露敏感数据。研究人员发现，LLMs将信息类型、接收者和传输原则编码为不同的内部表征。尽管存在这种意识，表征与实际行为之间的差距会导致隐私泄露。该研究提出了一种名为CI-parametric steering的方法，通过干预这些特定维度来更好地控制LLM隐私，并建议通过使内部表征与期望行为保持一致来实现隐私的改进。