PromptPET

新的PromptPET系统通过混淆技术优化AI聊天机器人隐私

研究人员开发了PromptPET，一个旨在增强用户与AI聊天机器人交互时隐私的新系统。PromptPET采用一个基于LLM的代理，通过从四种操作中选择来优化提示词混淆： redaction（删除）、abstraction（抽象）、replacement（替换）以及一种新的noising/denoising（加噪/去噪）方案。这种方法旨在平衡保护敏感用户信息和保持聊天机器人响应的效用，在真实聊天数据集上表现优于现有方法。