一篇新研究论文介绍了一种名为DirBucket的框架,旨在审计第三方检索增强生成(RAG)系统中文档的重用情况。该系统解决了数据提供商无法得知其授权语料库是否被RAG运营商在未获补偿的情况下使用的问题。DirBucket采用保留意义的释义来将语义水印嵌入文档中,从而能够在不影响检索效用的情况下,在黑盒答案中进行检测。该框架在具有挑战性的基准测试中展示了强大的检测能力,即使面对对抗性的清洗和规避策略,也表明它可以使RAG中的文档重用在统计学上可审计。 AI
影响 增强了RAG系统的问责制,可能影响数据许可和使用策略。
排序理由 该集群包含一篇详细介绍审计AI系统新技术框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Alexandr Goultiaev Tolstokorov
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- DirBucket
- Gotit.pub
- Hugging Face
- Rent-a-RAG
- ScienceCast
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →