GEO-Style Poisoning

新的GPE基准测试评估LLM事实核查对抗证据投毒的能力

研究人员推出GPE，这是一个新的基准和评估框架，旨在测试事实核查系统对抗“GEO风格投毒”的鲁棒性。这类攻击会操纵搜索结果以影响大型语言模型，而生成引擎优化技术会加剧这种风险。现有的基准测试缺乏评估这些漏洞所需的受控环境，但GPE允许对证据来源和投毒比例进行受控操纵。使用GPE进行的实验揭示了鲁棒性下降以及在标准评估中不明显的效率权衡，突显了事实核查中对抗性测试的关键需求。