RoTRAG

新AI框架RoTRAG增强对话中有害内容的检测

研究人员开发了RoTRAG，一个旨在增强多轮对话中有害内容检测能力的新型框架。该系统通过整合人工制定的道德规范（称为经验法则，RoTs）来增强检索增强生成，为推理提供明确的规范性证据。RoTRAG还包含一个轻量级分类器，可高效判断何时需要基于检索的推理，从而减少冗余计算。在基准数据集上的实验表明，与现有方法相比，在危害分类和严重性估计方面有了显著改进。