trl-lib/Capybara

使用单个 GPU 以 0.05 美元微调 Qwen/Qwen2.5-0.5B-Instruct 模型

一个教程演示了如何使用 trl-lib/Capybara 数据集对 Qwen/Qwen2.5-0.5B-Instruct 模型进行低成本 LoRA 微调。该过程设计为在单个 GPU 上作为自终止任务运行，成本约为 0.05 美元，GPU 时间不到 4 分钟。该指南详细介绍了必要的 Python 环境设置、脚本以及用于执行的 `runcrate` 命令，强调高效的资源管理以避免不必要的云计算成本。