实体
Prashant Kumar Pathak
Prashant Kumar Pathak
PulseAugur coverage of Prashant Kumar Pathak — every cluster mentioning Prashant Kumar Pathak across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新研究揭示了RAG防御系统在抵御协调投毒攻击方面的基本局限性
研究人员展示了当前针对检索增强生成（RAG）中使用的向量检索系统的协调投毒攻击的防御措施存在根本性局限。这些旨在过滤恶意文档的准入时防御措施，可以通过对手注入少量看似无害的文档来规避。这些文档结合起来，可以有效地劫持目标查询，迫使RAG系统输出攻击者捏造的信息。研究表明，这些攻击并非理论上的，在真实世界的管道中成功率高达88%，并且现有的分类器无法区分恶意和合法的利基上传。
-
向量数据库准入控制应对工作负载漂移下的检索热点
研究人员开发了一种新的向量数据库准入控制机制，以减轻检索热点（单个文档主导搜索结果）的影响。该系统维护一组哨兵查询，确保文档仅在与这些哨兵的相似度低于预定阈值时才被接纳。研究表明，虽然这种方法会产生辅助索引的维护成本，但即使在工作负载漂移下也能有效控制文档的暴露度，这在真实数据集上得到了验证，并已在PostgreSQL/pgvector中实现。
-
新的RAG防御在准入时控制向量中心性
研究人员开发了一种新的方法来控制检索增强生成（RAG）系统中的向量中心性，解决了注入文档影响不相关查询的风险。提出的解决方案涉及一个准入时门控，该门控根据哨兵查询对候选文档进行评分，在将潜在的中心性文档插入系统之前将其隔离。这种方法旨在通过早期识别和隔离有问题文档来减轻投毒攻击，从而提高RAG系统的安全性和可靠性。