Amazon Fashion

LLM推荐系统易受基于顺序的攻击

研究人员发现，当大型语言模型（LLM）用于推荐系统时，存在重大的安全漏洞。研究表明，即使不改变候选项目的实际内容或标签，LLM接收候选项目呈现的顺序也可以被操纵，从而不公平地推广某些项目。这种“位置偏差”可能被利用来提升不受欢迎的项目进入排名靠前的位置，实验显示推广标签为0的目标成功率高达57%。虽然双向T5编码器和排列一致性正则化可以缓解此风险，但点式评分虽然安全，却会降低整体排名质量。