实体 SCI-Defense

SCI-Defense

PulseAugur coverage of SCI-Defense — every cluster mentioning SCI-Defense across labs, papers, and developer communities, ranked by signal.

总计 · 30天

0

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 1

层级分布 · 90 天

主题

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_44886 · May 22 · 04:00

新的SCI-Defense框架对抗LLM排名操纵攻击

研究人员开发了SCI-Defense，一个旨在对抗针对基于LLM的排名系统的操纵攻击的新型框架。这些被称为生成式引擎优化（GEO）的攻击，涉及对手将误导性信号注入产品描述中以人为地提高其排名。SCI-Defense集成了困惑度检测、语义完整性评分和候选间检测，以识别和阻止这些操纵。在亚马逊产品描述和MS MARCO网页上的评估表明，SCI-Defense在对抗各种攻击类型方面具有高精度和高召回率，优于现有的防御机制。