Mir Mehedi Ahsan Pritom

新的PANOPTICON数据集利用PII数据解决LLM隐私风险

研究人员开发了一个名为PANOPTICON的新管道和数据集，以应对研究大型语言模型（LLM）隐私风险的挑战。该数据集使用Meta的Llama-3.1-8B-Instruct模型生成，包含超过67,000个包含个人身份信息（PII）的提示，这些信息源自合成用户配置文件。该基准数据集旨在促进对提示反演攻击（PIA）的研究，并量化LLM上下文窗口内的隐私泄露，标志着LLM隐私研究向前迈出了重要一步。