Yisong Xiao

新AI方法通过多感知线索增强有害内容检测

研究人员开发了一种名为PASP（感知感知对抗性自我对抗）的新方法，以改进大型语言模型（LLMs）检测有害内容的方式。该方法将包括文本、语音和视觉线索在内的多感知视图与对抗性自我对抗相结合。该系统训练一个攻击者生成规避性的有害内容，并训练一个防御者理解跨越不断变化的表面形式的意图。实验表明，PASP显著降低了有害内容检测基准上自适应攻击的成功率，提高了74%。