Federico Danieli

苹果发布DLR-Lock以保护大语言模型权重免遭未经授权的使用

苹果机器学习研究部门推出了一种名为DLR-Lock的新方法，用于保护预训练语言模型的权重免遭未经授权的修改。该技术通过用深度低秩残差网络（DLR-Net）替换每个多层感知器（MLP），增加了反向传播时的内存需求。DLR-Lock旨在使微调优化复杂化并增加反向传播开销，从而抵御自适应攻击者，同时保留模型的原始能力，这一点已通过在大语言模型上的实验得到验证。