max output

OpenAI API 术语详解：上下文窗口、输出限制和 token

一篇 Reddit 帖子澄清了关于 OpenAI API 术语的常见混淆，包括上下文窗口和最大输出 token 之间的区别。它解释说，上下文窗口同时包含输入和输出，而最大输出仅限制生成的响应。该帖子还将 token 与单词区分开来，详细说明了 temperature 和 top_p 如何控制输出的随机性，并介绍了推理 token 的概念，该概念是模型内部使用的，但可能计入输出限制和计费。