新方法推断大型语言模型中的实体级训练数据

研究人员提出了一种用于大型语言模型（LLM）的实体级成员推断的新方法。该方法旨在确定关于特定现实世界实体的信息（而不仅仅是单个数据样本）是否包含在LLM的训练数据中。提出的策略包括使用有限的实体线索来构建提示、引发响应，然后根据生成文本中的语义特征推断成员身份。实验表明，这些方法可以实现高精度，显著优于改编的基线方法。 AI

影响 这项研究可能有助于改进LLM的隐私审计，帮助识别在训练过程中是否记住了敏感的实体级信息。

排序理由 该条目是一篇研究论文，详细介绍了一种用于LLM成员推断的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 Hugging Face Daily Papers 阅读 →

• entity-level membership inference
• Have You Ever Seen Them? Entity-level Membership Inference through Interrogating Large Language Models
• Hugging Face
• large-language models
• Membership inference attack
• person entities

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →