大型语言模型（LLM）中的温度参数控制着文本生成过程中 token 选择的随机性。温度为 0 会始终选择最有可能的 token，从而产生确定性的输出；而较高的温度会通过从更广泛的概率范围进行采样来增加随机性。对于生产环境，建议在数据提取和分类等任务中使用较低的温度（0-0.3），在事实问答和摘要等任务中使用中等温度（0-0.5），在营销文案等创意生成任务中使用较高的温度（0.7-1.0）。需要注意的是，即使温度为 0，由于浮点数运算和批处理，仍可能出现微小的输出差异，而较高的温度会增加事实不准确或幻觉的风险。 AI
影响 理解和配置 LLM 温度对于开发人员在生产应用中平衡输出的创造性与事实准确性和一致性至关重要。
排序理由 该集群讨论了 LLM 的一个技术参数及其在生产环境中的应用，属于对人工智能技术的评论。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
<h2> O que a temperatura realmente faz </h2> <p>Quando um LLM gera uma resposta, ele produz uma distribuição de probabilidade sobre possíveis próximos tokens a cada passo. A temperatura escala essa distribuição antes da amostragem.</p> <p>Uma temperatura de 0 faz o modelo sempre …
<h2> What temperature actually does </h2> <p>When an LLM generates a response, it produces a probability distribution over possible next tokens at each step. Temperature scales that distribution before sampling. A temperature of 0 makes the model always pick the highest-probabili…