PulseAugur
实时 02:56:45
English(EN) Temperature doesn't make your model creative

语言模型温度:它如何影响标记选择

文章解释说,语言模型中的“温度”参数实际上并没有增加创造力,而是影响模型选择不太可能出现的标记的意愿。温度在 softmax 函数之前作为除数应用于 logits,softmax 函数将原始分数转换为概率。较低的温度会锐化概率分布,将质量集中在排名靠前的标记上,而较高的温度会使分布变平,从而为排名较低的标记赋予更多权重,但不会改变它们的根本排名。 AI

影响 阐明了 LLM 中温度设置背后的机制,影响了开发人员如何针对特定任务调整模型输出。

排序理由 该条目解释了与 LLM 输出生成相关的技术概念,而不是宣布新模型或产品。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

语言模型温度:它如何影响标记选择

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Chirag (Srce Cde) ·

    温度并不能让你的模型更具创造力

    <p><em>What <code>temperature</code>, <code>top-k</code>, and <code>top-p</code> actually do to the next token and why none of them can change its ranking.</em></p> <p>If you have used a language model API, you would have seen the advice to turn <code>temperature</code> up for mo…