文章解释说,语言模型中的“温度”参数实际上并没有增加创造力,而是影响模型选择不太可能出现的标记的意愿。温度在 softmax 函数之前作为除数应用于 logits,softmax 函数将原始分数转换为概率。较低的温度会锐化概率分布,将质量集中在排名靠前的标记上,而较高的温度会使分布变平,从而为排名较低的标记赋予更多权重,但不会改变它们的根本排名。 AI
影响 阐明了 LLM 中温度设置背后的机制,影响了开发人员如何针对特定任务调整模型输出。
排序理由 该条目解释了与 LLM 输出生成相关的技术概念,而不是宣布新模型或产品。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →