Logit bias 是一种通过调整特定标记被选中的可能性来影响语言模型输出的技术。该方法在将分数转换为概率之前,修改分配给潜在下一个标记的分数(logits)。通过应用正向偏置,某个标记会更受青睐;而负向偏置则使其被选中的可能性降低,强负向偏置甚至可以完全阻止其被选中。这提供了一种在不改变模型底层参数的情况下控制标记生成的方法。 AI
影响 Logit bias 提供了一种无需重新训练即可微调大语言模型输出的方法,从而能够更精确地控制生成的文本。
排序理由 该条目描述了一种控制大语言模型输出的技术,它是一种工具或方法,而不是核心的AI发布或研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →