NVIDIA 发布了一份指南,介绍如何使用 LoRA 和 DoRA 等参数高效技术微调其 Cosmos Predict 2.5 世界模型以生成机器人视频。此方法允许适应特定领域,例如机器人操作,而无需承担完全微调的高成本和灾难性遗忘风险。该过程涉及使用 diffusers 和 accelerate 等库在较小的数据集上进行训练,从而能够为下游学习任务生成合成机器人轨迹。另外,研究人员推出了 ShadowPEFT,这是一个新颖的参数高效微调集中式框架,它使用深度共享的阴影模块进行层级细化,在各种基准测试中表现出与 LoRA 和 DoRA 相当或更优的性能。 AI
影响 LoRA、DoRA 和 ShadowPEFT 等新的参数高效微调方法降低了调整大型模型的计算成本,使先进的人工智能更容易用于专业应用。
排序理由 该集群包含一个用于微调现有模型的指南和一个介绍新微调技术的论文。
- accelerate
- Cosmos Predict 2.5
- diffusers
- DoRA
- Hugging Face
- LoRA
- NVIDIA
- peft
- PyTorch
- transformers
- wandb
- ShadowPEFT
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →