实体 dual-gpu-tuner

dual-gpu-tuner

PulseAugur coverage of dual-gpu-tuner — every cluster mentioning dual-gpu-tuner across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

时间线

2026-08-30 product_launch A new tool named dual-gpu-tuner was released to optimize multi-GPU tensor splits for llama.cpp with Qwen models. 来源

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_226660 · Aug 30 · 23:25

新工具优化 llama.cpp 中 Qwen 模型的多 GPU 张量分割

新工具 dual-gpu-tuner 已发布，旨在帮助优化 llama.cpp 框架的多 GPU 使用，特别是针对 Qwen 模型。该工具帮助用户计算 `--override-tensor` 参数，这对于跨 GPU 微调张量分配以最大化上下文长度和 VRAM 利用率至关重要。该过程包括重启模型，运行工具生成的探测脚本，然后重新启动模型以评估结果，支持 Linux 并可能适配 Windows。