Tri-Layer Sieve

新的TRIS防御系统对抗RAG模型的知识投毒

研究人员开发了TRIS（Tri-Layer Retrieval Integrity Sieve，三层检索完整性筛查器），以对抗检索增强生成（RAG）系统中的知识投毒。该中间件防御系统通过采用跨嵌入空间聚类、结构过滤和LLM一致性验证来净化检索到的证据。TRIS显著降低了包括黑盒和白盒投毒方法在内的各种攻击的成功率，同时恢复了RAG模型的干净准确性。