Dell Precision T5820

用户详述为本地 LLM 推理升级 RTX 3090 Ti

一位用户详述了升级配备 RTX 3090 Ti 的 Dell Precision T5820 工作站以用作本地 LLM 推理节点的流程。该指南涵盖了特定的 BIOS 设置、电源配置以及 PCIe 链路训练所需的七次断电重启启动顺序。它还提供了从源代码编译 llama.cpp 软件的说明，以优化 GPU 性能，使其能够以大约每秒 42 个 token 的速度运行具有 262K token 上下文窗口的 Qwen3.6-27B 模型。