研究人员发现，专门用于文档理解的多模态大语言模型（MLLMs）存在重大的隐私漏洞。当这些模型面临不足的视觉信息时，它们可以通过依赖训练数据中记忆的关系模式来推断敏感的个人数据。为解决此问题，提出了一种新的动态关系遗忘框架（DRUF），其中包括一个关系解耦遗忘模块，用于在保持提取准确性的同时抑制相关敏感字段的泄露。还引入了一个新的基准测试 DocPrivacyBench，以系统地评估这些隐私风险，结果表明 DRUF 通过将泄露抑制率提高 4.8 个百分点，优于现有方法。 AI
影响 这项研究突显了专业人工智能模型中一个关键的隐私问题，可能影响未来文档处理人工智能的开发和安全协议。
排序理由 该集群包含一篇学术论文，详细介绍了用于评估多模态大语言模型隐私泄露的新框架和基准测试。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
