CalibDCD

新框架CalibDCD改进了大型语言模型数据污染检测

研究人员开发了CalibDCD，一个旨在改进大型语言模型（LLMs）数据污染检测的新框架。该方法解决了训练后修改（如指令调优）带来的挑战，这些修改会改变模型输出，并模糊文本是否属于原始训练数据。CalibDCD采用多视图偏移检测来识别训练后引起的特征偏移，并使用有界特征校正来减轻其对预测准确性的影响。实验表明，CalibDCD显著增强了现有的数据污染检测技术。