Parameter-Efficient Fine-Tuning
PulseAugur coverage of Parameter-Efficient Fine-Tuning — every cluster mentioning Parameter-Efficient Fine-Tuning across labs, papers, and developer communities, ranked by signal.
11 天有情绪数据
-
CARE-LoRA 框架提高了大型模型微调的内存效率
研究人员推出了一种新颖的 CARE-LoRA 框架，旨在提高大型预训练模型微调过程中低秩适配 (LoRA) 的内存效率。CARE-LoRA 通过压缩和重建反向传播过程中的激活来解决激活引起的内存瓶颈。该方法利用了 LoRA 内在的低秩结构，从而能够以极小的额外计算成本训练 LoRA 矩阵。实验表明，与标准的 LoRA 及其变体相比，CARE-LoRA 在显著降低内存使用的同时，还能保持甚至提高性能。
-
LoCA 方法高效地为卷积层适配视觉基础模型
研究人员推出了一种名为 LoCA（Low-Rank Convolutional Adaptation，低秩卷积适配）的新颖方法，可高效地对视觉基础模型进行微调。与主要为 Transformer 架构设计的现有 LoRA 技术不同，LoCA 专门针对卷积核进行了优化。它通过解耦通道和空间适配，并利用奇异值分解来优化空间基，从而解决了卷积层中空间-通道纠缠的挑战。该方法旨在保留预训练的空间先验，并在细粒度分类和域泛化语义分割等任务中展现出…
-
LLM 微调：全量与 PEFT 方法综合指南
本文全面概述了大型语言模型 (LLM) 的微调技术。它深入探讨了全量微调和参数高效微调 (PEFT) 方法，解释了从模型权重、矩阵分解到所涉及的数学原理的底层概念。
-
理解低秩适应（LoRA）以实现高效模型微调
本文探讨了参数高效微调（PEFT）技术，重点关注低秩适应（LoRA）。文章深入研究了模型如何在不改变其原始权重的情况下学习新信息，并考察了其底层数学原理和低维子空间的概念。该文旨在直观地解释这些对于高效适应大型模型至关重要的技术。
-
AWS 使 Parcel Perform 能够微调 Amazon Nova 模型，成本降低 50%
AWS 详细介绍了电子商务物流公司 Parcel Perform 如何成功微调 Amazon Nova 模型以提高电子邮件数据提取能力。通过利用 Amazon SageMaker AI 和参数高效微调 (PEFT) 结合低秩适配 (LoRA)，Parcel Perform 实现了高达 94.77% 的提取准确率，显著优于其基线。此微调过程还将推理延迟降低了 30% 以上，成本降低了 50%，使其能够将解决方案投入生产以实现更高效的运营。
-
新理论分析Transformer在分布回归中的泛化能力
研究人员开发了一个新的理论框架，用于在分布回归的背景下分析Transformer模型。该框架引入了一个“注意力算子”，使Transformer能够在不丢失信息的情况下将分布压缩成函数表示。研究表明，与传统神经网络相比，该算子增强了Transformer学习复杂泛函的能力，并为大型语言模型中使用的prompt tuning和参数高效微调等技术提供了理论见解。
-
新的SSM适配器在长上下文微调方面优于LoRA
研究人员开发了一种名为Hankel降阶模型（HRM）适配器的新型参数高效微调（PEFT）方法，该方法利用状态空间模型（SSM）进行长上下文微调。与专注于注意力机制的传统PEFT方法不同，HRM适配器被设计用于注入MLP块，并利用SSM的时间不变性进行高效计算。在使用Mistral-7B进行LongBench等长上下文任务的评估中，HRM适配器表现优于LoRA变体，在准确性和ROUGE-1分数上均取得了显著提升。
-
LiMoDE 提出新颖的两阶段学习方法以实现机器人终身操控
研究人员提出了 LiMoDE，一种旨在提高机器人终身操控能力的新颖两阶段学习方案。该方法在预训练期间利用动态专家混合（MoE）结构来获取先验知识，根据不同短期任务的运动信息激活不同的专家。在适应阶段，采用终身 MoE 适应机制来学习新专家并将其与现有专家结合，从而促进知识转移并减轻灾难性遗忘。在模拟和真实世界任务上的实验表明，LiMoDE 在可训练参数和推理开销适度增加的情况下，能有效增强终身适应性和性能。
-
新方法预测LoRA适配器可合并性以避免性能损失
研究人员开发了一种名为MergeProbe的新方法，用于预测参数高效微调（PEFT）更新的可合并性，特别是针对低秩适配（LoRA）。该方法旨在预测组合不同的训练适配器是否会导致破坏性干扰，这是降低性能的常见问题。MergeProbe分析早期训练信号，例如低秩更新及其梯度的对齐情况，以确定最佳合并策略：直接合并、重新加权、剪枝或路由。在MERGE-PEFT基准测试中，MergeProbe与现有的抗干扰方法相比，表现出更优越的保留性能和更…
-
新研究探讨强化学习效率、无奖励控制和安全导航
研究人员正在探索强化学习（RL）的新方法，以提高各个领域的效率和性能。一项研究调查了编码代理RL中的“回滚基础设施税”，揭示了执行基底效率的显著差异，并建议将这些基底的优化作为训练系统的一部分。另一篇论文介绍了“Rank-Then-Act”（RTA）框架，该框架无需明确奖励即可从专家视频演示中学习控制策略，利用基于相关性的奖励函数在任务之间稳定迁移。此外，还提出了用于无人机导航的安全RL的进展，重点关注轻量级、安全约束框架，该框架集成…
-
新的MODE架构增强了物理信息神经网络
研究人员推出了一种新颖的微架构，用于适应物理信息神经网络（PINNs）的流形-正交双谱外插（MODE）。MODE通过分解物理演化为不同的机制，解决了现有方法（如基于SVD的微调和传统的参数高效微调（PEFT））的局限性。这种方法能够实现跨模态能量转移，激活高频光谱分量，并分离空间平移动力学，以最小的参数复杂度实现了强大的分布外泛化能力。
-
新的PEFT方法以“平坦度偏好”为目标，以获得更好的泛化能力
研究人员在参数高效微调（PEFT）方法中发现了一种“平坦度偏好”，表明一小部分维度对泛化能力有显著影响。他们提出了平坦度偏好优化（FlatPO）方法，以专门针对并压平这些关键维度，旨在提高模型的整体泛化能力。实验表明，这种方法增强了各种PEFT技术的有效性。
-
新型SMoA适配器提升大语言模型微调效率
研究人员推出了一种新颖的频谱调制适配器SMoA，旨在增强大语言模型（LLM）的参数高效微调（PEFT）。与传统的低秩适配（LoRA）等方法不同，LoRA在秩降低时面临表示能力受限的问题，而SMoA旨在以更小的参数预算拓宽可适配更新的频谱。通过将层划分为频谱块并应用调制低秩分支，SMoA在多项任务上展现出优于现有LoRA风格基线模型的性能。
-
新的深度重编程蒸馏框架增强了医学人工智能模型
研究人员引入了一个名为深度重编程蒸馏（DRD）的新框架，以应对将大型医学基础模型适应特定下游任务的挑战。DRD利用一种新颖的重编程模块来弥合预训练和专业场景之间的差距，从而能够将知识高效地迁移到轻量级学生模型。此外，还采用了一种居中核对齐蒸馏方法，以确保在各种训练条件下进行稳健的知识迁移。实证结果表明，DRD在18个医学下游任务上的表现优于现有方法，包括2D和3D数据的分类和分割。
-
Mantis框架为3D点云模型提供高效的Mamba原生调优
研究人员推出Mantis，一个新颖的参数高效微调（PEFT）框架，专门为基于Mamba的3D点云基础模型设计。现有的PEFT方法在处理Mamba的状态空间动力学时遇到困难，导致性能下降。Mantis通过引入状态感知适配器（SAA）进行状态级适应，以及双序列化一致性蒸馏（DSCD）来稳定不同点云序列化下的训练，从而解决了这个问题。该框架仅使用约5%的可训练参数就取得了有竞争力的结果。