研究人员开发了CalibDCD，一个旨在改进大型语言模型（LLMs）数据污染检测的新框架。该方法解决了训练后修改（如指令调优）带来的挑战，这些修改会改变模型输出，并模糊文本是否属于原始训练数据。CalibDCD采用多视图偏移检测来识别训练后引起的特征偏移，并使用有界特征校正来减轻其对预测准确性的影响。实验表明，CalibDCD显著增强了现有的数据污染检测技术。 AI
影响 增强了识别和潜在减轻在大型语言模型训练集中使用受版权保护或私有数据的能力。
排序理由 该集群描述了一篇在arXiv上发表的新研究论文，详细介绍了一个用于大型语言模型数据污染检测的新颖框架。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2608.10462v1 Announce Type: new Abstract: Large language models (LLMs) are trained on massive and largely undisclosed corpora that may contain copyrighted or privacy-sensitive content. Data contamination detection (DCD) therefore aims to determine whether a given text is a …
Large language models (LLMs) are trained on massive and largely undisclosed corpora that may contain copyrighted or privacy-sensitive content. Data contamination detection (DCD) therefore aims to determine whether a given text is a member of the pre-training corpus of a target LL…