一种称为 Assistant Prefill 或响应预填充的技术，通过编写语言模型回复的初始字符来指导其输出格式。此方法对于确保 JSON 等结构化数据格式特别有效，因为模型会继续生成提供的文本，而不是生成前导语。通过在助手的回合中附加部分消息，开发人员可以比使用明确指令更可靠地控制模型的输出，确保模型在没有额外对话文本的情况下完成预期的格式。 AI
影响 为开发人员提供了一种实用方法，以确保 LLM 输出一致且可预测的结构化数据。
排序理由 描述了一种与 LLM 交互以控制输出格式的特定技术。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p>A chat API call is not a question. It is a transcript: a system turn, a user turn, and then an empty assistant turn that the model fills in.</p> <p>Assistant prefill — also called response priming — means you write the first few characters of that assistant turn yourself. The …