实体
Runcrate
Runcrate
PulseAugur coverage of Runcrate — every cluster mentioning Runcrate across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
使用单个 GPU 以 0.05 美元微调 Qwen/Qwen2.5-0.5B-Instruct 模型
一个教程演示了如何使用 trl-lib/Capybara 数据集对 Qwen/Qwen2.5-0.5B-Instruct 模型进行低成本 LoRA 微调。该过程设计为在单个 GPU 上作为自终止任务运行，成本约为 0.05 美元，GPU 时间不到 4 分钟。该指南详细介绍了必要的 Python 环境设置、脚本以及用于执行的 `runcrate` 命令，强调高效的资源管理以避免不必要的云计算成本。
-
Runcrate 自动执行夜间 LLM 评估，使用一次性 GPU
一款名为 Runcrate 的新工具已被推出，用于自动执行夜间 LLM 评估，确保在发布前及时检测到模型回归。该系统利用一次性 GPU，仅在评估期间配置，将成本显著降低到小模型每次运行约一美分。Runcrate CLI 简化了设置过程，允许用户通过单个命令安排这些评估，从而提高了模型测试的可靠性和效率。
-
通过兼容 OpenAI 的 API，只需少量代码更改即可切换到开源 LLM
一篇博文演示了开发者如何通过最少的代码更改，将其应用程序从使用 OpenAI 的 API 切换到使用开源模型。通过利用 Runcrate 提供的兼容 OpenAI 的端点（托管 DeepSeek、Qwen 和 Llama 等模型），开发者只需更改两行代码。这种方法可以保留流式传输、工具调用和 JSON 模式等基本功能，前提是所选的开源模型支持这些功能。该博文还强调，Runcrate 的 API 允许开发者直接查询可用模型及其定价，进一…