实体
TrustRAG
TrustRAG
PulseAugur coverage of TrustRAG — every cluster mentioning TrustRAG across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
研究发现基准测试捷径削弱了 RAG 防御的有效性
一篇新的研究论文揭示了当前针对检索增强生成（RAG）投毒的防御措施存在严重漏洞。研究表明，许多已发表的 RAG 防御评估报告通过利用投毒数据构造中的捷径，而非真正识别恶意内容，获得了近乎完美的检测率。当移除这些构造线索，例如逐字包含问题或特定文档长度时，RAGuard 和 TrustRAG 等防御措施的有效性会急剧下降，漏报率大幅增加。研究人员提出了一种方法来分析投毒集及其干净语料库对应物，以更好地评估防御的鲁棒性，并强调当前的检测结…
-
新的CamoDocs攻击针对RAG模型，规避防御
研究人员开发了一种名为CamoDocs的新型数据投毒技术，专门针对检索增强生成（RAG）语言模型。该方法避免在投毒文档中直接包含查询，使得现有防御措施更难检测。CamoDocs合成了良性和对抗性内容，使用分散标记来传播恶意嵌入，并使用一致性过滤来保持可读性。该攻击被证明对GPT-5.4-mini和Claude Haiku 4.5等专有模型有效，实现了显著的攻击成功率，同时也表明TrustRAG等一些防御措施可以降低有效性，但会以牺牲N…