Telescope Perplexity

新指标“Telescope Perplexity”通过测量标记重复来检测LLM生成的文本

研究人员开发了一种名为Telescope Perplexity的新指标，以更好地区分大型语言模型（LLM）生成的文本和人类书写的文本。该指标基于一个观察结果：LLM在训练早期会产生对重复标记的回避，这种偏见会作为一种“残余启发式”在其输出中持续存在。研究表明，Telescope Perplexity能够以零样本方式有效检测LLM生成的内容，在各种数据集和模型上均能高效地达到最先进的性能。