Perspective API

新的ThreatCore基准凸显AI在隐式威胁检测方面的挣扎

研究人员推出了ThreatCore，这是一个用于自然语言处理中细粒度威胁检测的新基准数据集。该数据集旨在为识别显式威胁、隐式威胁和非威胁提供更一致和标准化的方法，以解决现有标签中的不一致之处。在ThreatCore上的评估表明，当前的语言模型在检测隐式威胁方面仍然存在困难，而引入语义角色标注（Semantic Role Labeling）可能通过阐明有害意图结构来提高性能。