Zhenhang Shang

新的密码学方法验证AI模型微调的完整性

研究人员引入了一个名为微调完整性（FTI）的新密码学概念，用于验证大型机器学习模型如何被更新。FTI允许审计人员在无需访问模型参数的情况下，确认微调后的模型是否遵循声称的更新过程。该系统使用简洁模型差异证明（SMDPs）来认证结构化参数漂移，支持诸如范数受限、低秩和稀疏漂移等更新，这些更新涵盖了LoRA和前缀微调等常用方法。在合成数据和GPT-2微调上的原型评估表明，证明是紧凑的，并且验证是高效的。