RoBERTa-RTE

新框架认证基础模型适配器的有效秩

一篇新研究论文介绍了一个用于认证基础模型适配器谱秩的框架，超越了标称秩以推断有效秩结构。该工作开发了一个具有理论基础的有限样本框架，包括卡方散度和 Le Cam 界限，以分析适配器性能。提出了一种用于 PEFT LoRA 适配器的经验零假设工作流程，包括因子重构、蒙特卡洛 p 值和报告。对 26 个公共适配器的审计显示，校准后的有效秩通常远小于标称秩，并且与简单的能量保留不同。