研究人员开发了SCI-Defense，一个旨在对抗针对基于LLM的排名系统的操纵攻击的新型框架。这些被称为生成式引擎优化（GEO）的攻击，涉及对手将误导性信号注入产品描述中以人为地提高其排名。SCI-Defense集成了困惑度检测、语义完整性评分和候选间检测，以识别和阻止这些操纵。在亚马逊产品描述和MS MARCO网页上的评估表明，SCI-Defense在对抗各种攻击类型方面具有高精度和高召回率，优于现有的防御机制。 AI
影响 引入了一种针对复杂的、针对基于LLM的排名系统的操纵攻击的新防御机制，可能提高搜索和推荐引擎的可靠性。
排序理由 该集群包含一篇详细介绍针对特定AI相关攻击的新防御机制的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →