Anna Yoo Jeong Ha

新的Whiteout工具可防止LLM泄露私有数据

一篇新的研究论文介绍了一种名为Whiteout的工具，该工具旨在防止大型语言模型（LLM）泄露私有的敏感信息（PSI）。与现有方法通常会降低模型性能或容易受到攻击不同，Whiteout使用精确的混淆样本来覆盖PSI。在包括OpenAI模型在内的各种LLM上进行测试，Whiteout能够有效阻止目标PSI的泄露，同时对效用和安全性影响最小，并且在对抗一系列对抗措施方面优于现有替代方案。