data extraction

大型语言模型隐私研究揭示了不同攻击方式下与上下文相关的风险

一项新近发表在arXiv上的研究，调查了大型语言模型（LLMs）在交互式和检索增强系统中使用时所带来的隐私风险。该研究引入了一个统一的威胁模型，并进行了一项消融研究，以评估模型架构、规模和数据集特征等因素对各种隐私攻击的影响。研究结果表明，成员推断攻击通常是可靠的，而基于触发器的后门攻击因其性质而始终成功。属性推断和数据提取攻击虽然准确性较低，但通过针对敏感个人信息而构成重大风险。