实体
Mixture-of-LoRA
Mixture-of-LoRA
PulseAugur coverage of Mixture-of-LoRA — every cluster mentioning Mixture-of-LoRA across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
引入新的语义帧插值任务和基准
研究人员引入了语义帧插值（SFI），这是一项新任务，旨在根据起始和结束帧以及文本提示生成不同长度的中间视频内容。这项工作提出了 SemFi 模型，该模型基于 Wan2.1 并包含一个 Mixture-of-LoRA 模块，以确保不同帧长度的内容一致性。为了支持 SFI，该论文还介绍了 SFI-300K，这是第一个专门为此任务设计的通用数据集和基准，以及新的评估指标。
-
新方法解决持续学习中的灾难性遗忘问题 · 跟踪8个来源
研究人员正在开发新方法来解决持续学习中的灾难性遗忘问题，即模型在学习新任务时会丢失先前获得的知识。几篇论文提出了新颖的技术，包括可学习的小波激活、技能引导的自适应记忆检索和持续蒸馏学习。其他方法侧重于表示微调、激活加权自适应保留和分组 LoRA 适配器合并，以提高模型的塑性和稳定性。这些进展旨在使模型能够更有效地进行顺序学习并适应不断变化的数据流。
-
MindLab采用Macaron-V1 Mixture-of-LoRA技术增强GLM 5.2
MindLab推出了Macaron-V1，一种用于增强GLM 5.2模型的微调技术。该方法采用Mixture-of-LoRA方法，整合了专门的适配器模块以提高性能和上下文长度。训练效率显著，一个万亿参数模型仅需64个GPU。