实体
knowledge poisoning
knowledge poisoning
PulseAugur coverage of knowledge poisoning — every cluster mentioning knowledge poisoning across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的RAG-IDS框架可防御AI入侵检测攻击
研究人员开发了RAG-IDS，一个新颖的三层框架，旨在防御检索增强生成（RAG）系统在入侵检测中免受知识投毒和提示注入攻击。该系统包含一个检索边界防御机制，包括软信任评分、标签嵌入一致性检查（LECC）和提示清理，即使在检索层受到损害的情况下也能保持分类准确性。在CIC-UNSW-NB15数据集上的实验表明，在攻击条件下性能得到显著恢复，其中LECC被证明是鲁棒性最关键的组成部分。
-
新框架 Cordon-MAS 保护 RAG 免受知识投毒攻击
一篇新研究论文介绍 Cordon-MAS，一个旨在保护检索增强生成 (RAG) 系统免受知识投毒攻击的框架。提出的 Cordon 原理解决了模型可以检测到投毒信息但仍会生成错误输出的空白。Cordon-MAS 将证据提取、审计和综合分离为具有受控内存访问权限的独立代理，显著降低了此类攻击的成功率。