Xiangyu Yin

新的 RAG 防御和多轮对话式 AI 系统详解

研究人员开发了 ProGRank，这是一种新颖的防御机制，旨在保护检索增强生成 (RAG) 系统免受语料库投毒攻击。这种无需训练的方法通过对查询-文档对引入轻微扰动并在探针梯度中分析以识别不稳定性信号来在检索器端运行。另外，另一研究团队详细介绍了他们对 SemEval-2026 Task 8 的参与，提出了一个多轮 RAG 流程，该流程集成了学习稀疏检索和基于 LLM 的重排，以改进跨各种领域的对话式问答。