研究人员开发了一种名为源感知成员审计（SMA）的新方法，用于追踪检索增强生成（RAG）和多模态RAG系统生成内容的来源。与以往关注数据是否被记忆的方法不同，SMA能够精确指出生成内容来自预训练数据、外部检索还是用户输入。这通过使用零阶优化和利用多模态大语言模型（MLLMs）分析图像输入的跨模态技术来实现的归因估计机制来完成。 AI
影响 这种新的审计方法通过为生成内容提供细粒度的来源归因，可以增强生成式AI系统的隐私和问责制。
排序理由 该集群包含一篇详细介绍AI系统新审计方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
- large-language models
- MLLMs
- Multimodal Retrieval-Augmented Generation
- retrieval-augmented generation
- Shixuan Sun
- Source-aware Membership Audit
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
