Parameter-Efficient Fine-Tuning
PulseAugur coverage of Parameter-Efficient Fine-Tuning — every cluster mentioning Parameter-Efficient Fine-Tuning across labs, papers, and developer communities, ranked by signal.
11 天有情绪数据
-
FrameFT 使用稀疏系数减少微调内存占用
研究人员推出了一种新颖的参数高效微调 (PEFT) 策略 FrameFT，旨在减少微调大型 Transformer 模型的内存占用。与 LoRA 等现有方法不同，FrameFT 使用融合帧基内的稀疏系数来建模参数更新，允许跨模型层共享帧。这种方法在保持或提高监督微调任务（包括语言和视觉应用）性能的同时，显著减少了可训练参数的数量。
-
新的FAN-LoRA方法改进了基础模型的医学图像分割
研究人员开发了FAN-LoRA，一种将视觉基础模型（如分割一切模型（SAM））适配到医学成像领域的新方法。现有方法在处理域偏移时存在困难，导致性能下降。FAN-LoRA通过解耦频率分量来解决这个问题，使用B样条驱动的低通分支处理全局结构，并使用傅里叶高通分支处理局部纹理。实验表明，FAN-LoRA在提高Dice分数和减少医学成像基准测试中的边界误差方面优于现有方法。
-
PEFT 将罗马乌尔都语中大型语言模型的仇恨言论检测 F1 分数提升至 93% 以上
一篇新研究论文探讨了参数高效微调 (PEFT) 方法，特别是低秩自适应 (LoRA)，在罗马乌尔都语仇恨言论检测中的有效性。研究发现，虽然在 Mistral、LLaMA、Falcon 和 BERT 等模型上进行零样本推理取得了中等结果（F1 分数 0.56），但使用 PEFT 进行微调可将性能显著提高到 0.93 以上的 F1 分数。这种方法展示了强大的计算效率，使其成为处理低资源语言的可行解决方案。
-
新的CKAA框架提升持续学习模型鲁棒性
研究人员推出CKAA，一个旨在提高持续学习模型在面对误导性任务识别时的鲁棒性的新框架。该框架包含双层知识对齐（DKA）以更好地区分正确和错误特征子空间，以及任务置信度引导的适配器混合（TC-MoA）用于推理过程中任务特定知识的自适应聚合。实验表明，CKAA在持续学习的参数高效微调方法上优于现有方法。
-
新的sMuon方法增强了神经网络的低秩微调
研究人员开发了一种名为sMuon的新方法，以改进神经网络的参数高效微调（PEFT）。该技术通过在低秩设置中近似Muon目标，解决了Muon优化器与常见的LoRA PEFT方法之间的不兼容问题。该实现仅使用矩阵乘法运算，并在监督微调和ReLoRA预训练实验中显示出有利的结果，提供了适度的性能改进。
-
小波微调 (WaveFT) 为 AI 模型提供先进的参数效率
研究人员推出了一种新颖的参数高效微调 (PEFT) 方法——小波微调 (WaveFT)，该方法利用了权重矩阵小波域中的稀疏性。与 LoRA 等现有方法不同，WaveFT 通过学习稀疏更新，提供了对可训练参数更精细的控制，这可以实现高秩更新并避免 LoRA 的子空间限制。对视觉和语言任务的理论分析和实验结果证明了 WaveFT 的有效性，在视觉任务的 PEFT 方法中取得了最先进的性能。WaveFT 方法已集成到 Hugging Fac…
-
新方法加速 Vision Transformer 在边缘设备的适配
研究人员开发了更有效地将 Vision Transformer (ViT) 适配到特定任务的新方法。一种方法使用遗传编程来演化层特定的标量函数，以近似归一化层，在 ImageNet-1K 上实现高精度，同时降低边缘设备的计算复杂度和内存流量。另一种方法，Circuit Fine-Tuning (CFT)，使用电路发现来识别和微调 ViT 的关键模块，与标准参数高效微调技术相比，在各种基准测试中显著减少了训练时间和 FLOPs。
-
LoRA 支持大型语言模型的有效微调
LoRA（低秩适应）是一种能够有效微调大型语言模型的技术。它通过冻结原始模型的权重，并在特定层中注入更小、可训练的矩阵来实现，从而显著减少需要更新的参数数量。这种方法，以及 QLoRA 等变体，使得在不要求海量计算资源的情况下，使用自定义数据集训练和调整强大的 AI 模型更加容易。
-
LoRA 微调为初创公司提供高效的 LLM 适应方案
LoRA（低秩适应）是一种显著减少微调大型语言模型所需计算资源的技术。虽然 LoRA 常被描述为一种更经济的方法，但它提供的不仅仅是成本节省，还能更有效地将模型适应特定任务。这种方法对于计算资源有限的初创公司尤其有益。
-
HyPASE框架使用双曲几何进行高效LALM微调
研究人员开发了HyPASE，一个利用双曲几何进行参数高效微调大型音频语言模型（LALMs）以用于语音情感识别（SER）的新型框架。与在欧几里得空间中操作的传统方法不同，HyPASE采用了Poincaré球模型来更好地捕捉情感线索的多粒度性。该框架包括一个双曲几何适配器（HGA）和一个情感感知多容量跨模态聚合器（EMCA），它们共同提高了在MELD和IEMOCAP等基准测试上的性能，尤其是在类别不平衡数据集上。这种方法为将LALMs适应…
-
新研究解决V2X协同感知的域适应问题
两篇新研究论文介绍了用于协同感知系统（特别是车联网（V2X）应用）的域泛化自适应语义通信的先进技术。第一篇论文RSTA，通过在训练期间使用跨域原型对齐和跨通道梯度一致性，并部署轻量级适配器，来适应观测域偏移和未知的无线信道条件。第二篇论文FlowAdapt，通过采用最优传输来改进帧选择，并逐步将知识从网络的早期阶段转移到更深的阶段，从而解决了V2X参数高效微调中的瓶颈问题。这两种方法都旨在以最少的训练参数和无需代理间同步来提高性能。
-
新的Z-PEFT方法可检测微调AI模型中的后门
研究人员开发了Z-PEFT，一种用于检测参数高效微调（PEFT）模型中后门的新颖方法。该方法利用模型权重的规范谱签名来识别恶意模型，即使面对未见过的攻击或数据集。Z-PEFT为增强广泛共享的PEFT模型的安全性提供了一种轻量级且计算高效的解决方案。
-
MoPET方法使用混合专家模型进行医学图像分类
研究人员开发了MoPET，一种利用混合专家（MoE）方法进行医学图像分类的新型参数高效微调（PEFT）方法。MoPET通过采用学习到的稀疏路由器，将输入导向冻结基础模型中的低秩专家子集，从而解决了PEFT中的负迁移问题。这使得跨数据集的容量共享，同时减轻了梯度冲突。在MedMNIST基准上的评估证明了MoPET的有效性，显示出比独立的PEFT适配器更高的准确率，并在与辅助数据集联合训练时，在数据受限的临床目标上表现出增强的性能。
-
AI毒性检测未能惠及边缘群体，需要社区特定方法
一篇新的研究论文认为，当前用于AI生成图像的毒性检测器不足，尤其对边缘化社区而言。研究强调，一种通用的方法未能识别出针对侏儒症或视力障碍等群体的有害内容，在某些情况下，检测器的表现甚至不如随机猜测。该论文提出了社区特定毒性检测（CTD），并证明像上下文学习（ICL）和参数高效微调（PEFT）这样的方法可以显著提高检测准确性，尽管仍需要持续的研究。
-
新的MoE$^2$-LoRA方法增强了混合专家LLM的微调
研究人员推出了一种新颖的参数高效微调混合专家（MoE）大型语言模型的方法——MoE$^2$-LoRA。该方法通过一个双通道路由条件投影模块，将预训练专家专业化与任务特定适应性相结合，解决了现有方法的局限性。MoE$^2$-LoRA在所有层中利用共享的全局LoRA专家池，促进了模型范围的适应和平衡的专家利用。评估表明，MoE$^2$-LoRA在各种MoE骨干模型上实现了最先进的下游准确性，同时保留了通用能力。
-
新框架支持光子视觉 Transformer 的片上微调
研究人员开发了 Opto-ViT-v2，这是一个新颖的框架，能够直接在光子加速器上对视觉 Transformer 进行参数高效的微调。该系统通过张量化低秩分解来减少激活存储和权重更新，从而解决了片上训练的挑战。Opto-ViT-v2 还包含一个通过真实设备测量校准的噪声模型，证明了其对光子噪声的鲁棒性，并实现了边缘视觉系统的高能效。
-
调查探讨参数高效持续微调以适应人工智能
一篇新的调查论文探讨了参数高效微调（PEFT）与持续学习（CL）的交叉领域，该领域专注于使人工智能模型能够在不忘记先前知识的情况下适应动态环境。该论文强调了当前PEFT方法在处理顺序任务方面的局限性以及灾难性遗忘的挑战。它旨在通过回顾参数高效持续微调（PECFT）的现有方法、评估指标和未来研究方向来指导研究人员。
-
MagicPrompt 为视频生成提供超轻量级调优
研究人员推出 MagicPrompt，一个旨在提高视频生成模型效率的新框架。该方法采用注意力嵌入式提示调优（Attention-Embedded Prompt Tuning），使用的参数比传统微调少得多，同时保留了模型的预训练知识。此外，MagicPrompt 还结合了双空间奖励反馈优化（Dual-Space Reward Feedback Optimization）来稳定条件引导任务的训练。实验表明，MagicPrompt 以不到 …
-
CARE-LoRA 框架提高了大型模型微调的内存效率
研究人员推出了一种新颖的 CARE-LoRA 框架，旨在提高大型预训练模型微调过程中低秩适配 (LoRA) 的内存效率。CARE-LoRA 通过压缩和重建反向传播过程中的激活来解决激活引起的内存瓶颈。该方法利用了 LoRA 内在的低秩结构，从而能够以极小的额外计算成本训练 LoRA 矩阵。实验表明，与标准的 LoRA 及其变体相比，CARE-LoRA 在显著降低内存使用的同时，还能保持甚至提高性能。
-
LoCA 方法高效地为卷积层适配视觉基础模型
研究人员推出了一种名为 LoCA（Low-Rank Convolutional Adaptation，低秩卷积适配）的新颖方法，可高效地对视觉基础模型进行微调。与主要为 Transformer 架构设计的现有 LoRA 技术不同，LoCA 专门针对卷积核进行了优化。它通过解耦通道和空间适配，并利用奇异值分解来优化空间基，从而解决了卷积层中空间-通道纠缠的挑战。该方法旨在保留预训练的空间先验，并在细粒度分类和域泛化语义分割等任务中展现出…