对于希望微调大型语言模型的团队来说，Together AI 的按 token 定价的替代方案包括 Nodus、Fireworks AI、Modal 和 RunPod。Nodus 提供按 GPU 小时计费，并为 SFT 和 DPO 等各种微调方法提供托管配方，并且可以恢复中断的任务。Fireworks AI 提供另一种按 token 收费的 API 选项，而 Modal 和 RunPod 则允许用户运行自己的训练基础设施。最具成本效益的选择取决于特定任务的持续时间和资源需求，并提供了对 Llama-3.1:8b 的示例 LoRA 作业的详细成本分析。 AI
影响 根据作业特性，提供不同 LLM 微调提供商之间的成本分析。
排序理由 LLM 微调平台和定价模型的比较。
- Direct Preference Optimization
- Fireworks AI
- Grpo
- Llama-3.1:8b
- LoRA+
- Modal
- NVIDIA H100
- RunPod
- supervised fine-tuning
- Together AI
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
