Logprobs

Logprobs：解锁语言模型输出的量化洞察

Logprobs，即为生成 token 分配的概率的对数，为语言模型输出提供了量化洞察。这些值通常为负数，可以通过指数运算得到概率，负值越低表示确定性越高。开发者可以利用 logprobs 将生成模型转变为评分机制，例如通过确保模型输出代表一个类别的单个 token 来实现文本分类等应用。仔细考虑 API 设置，如 temperature 和 logprobs 是原始值还是转换后值，对于准确解释和应用至关重要。