实体
torchtune
torchtune
PulseAugur coverage of torchtune — every cluster mentioning torchtune across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
时间线
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
通过高效方法优化 H100 上 Llama 微调成本
在 NVIDIA H100 GPU 上微调 Llama 模型，可以通过使用最适合模型大小的内存高效方法来优化成本，例如对 Llama 3.1 8B 等较小模型使用 LoRA，对 Llama 3.1 70B 等较大模型使用 QLoRA。通过快速检查点和避免空闲时间来最大限度地减少计费时间至关重要，因为这些因素对总体成本的影响比 GPU 本身的每小时费率大得多。例如，在 H100 上对 Llama 3.1 8B 进行 5000 万个 to…
-
PyTorch 发布 Torchtune 用于 LLM 微调
Torchtune 是 PyTorch 官方推出的用于微调大型语言模型的库。它提供了简单的单文件配方，支持 LoRA 和 QLoRA 等技术，使开发者的微调过程更加便捷。
-
PyTorch 库 torchtune 简化 LLM 模型微调流程
研究人员推出 torchtune，一个新推出的、原生于 PyTorch 的库，旨在简化大型语言模型的微调阶段。该库强调模块化和对 PyTorch 组件的直接访问，旨在促进高效的微调、实验和部署工作流程。它被呈现为 LLM 微调可复现研究的灵活基础，与 Axolotl 和 Unsloth 等现有框架相比，提供了具有竞争力的性能和内存效率。