Reddit的r/LocalLLaMA子版块的一位用户分享了他们对推测性解码进行超参数调整的经验，特别是在Strix Halo平台上使用Qwen3.6 27B模型和“draft-mtp”方法。尽管使用Optuna进行了广泛搜索，但用户发现与默认参数相比，每秒令牌数仅提高了6%。他们提供了实验中使用的Python脚本和最优命令行参数。 AI
影响 为本地LLM部署提供次要优化见解；不代表重大的行业转变。
排序理由 用户对技术实验的评论，影响有限。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>TLDR; I only got a 6% improvement on tokens/sec over naïve parameters.</p> <p>I was messing around and ran a hyperparameter search with optuna over the MTP and speculative decoding options of llama-server for Qwen3.6 27b on strix halo.</p> <p>Her…