PrivacyAlign

新数据集和方法使AI智能体符合人类隐私规范

研究人员推出了PrivacyAlign，这是一个用于将AI智能体与人类隐私规范对齐的新数据集和方法。该数据集包含1,350个样本，来自近600名个体，拥有超过3,500个标注，重点关注当前大型语言模型（LLM）智能体泄露私人信息的场景。通过将LLM裁判条件化于这些人类标注和解释，它们的判断变得更加可靠。该研究还开发了标注条件化奖励建模，它利用这些见解来训练更能遵守人类隐私期望的智能体。