Double Noise Trap

新的去噪感知反演方法揭示了噪声文本嵌入中的隐私风险

研究人员开发了一种名为去噪感知反演（DAEI）的新方法，以解决通过添加高斯噪声保护的文本嵌入中的隐私风险。由于“双重噪声陷阱”，标准的攻击方法在处理这些扰动嵌入时面临困难。DAEI结合了残差去噪自编码器和生成文本反演，对去噪器进行无监督训练，仅凭噪声观测即可重建原始文本。实验表明，DAEI显著提高了重建质量，BLEU分数相对提高了154%，F1和ROUGE-L也取得了显著的提升，挑战了简单加噪足以保护隐私的假设。