PulseAugur
中
实时 15:15:50
English(EN) Streaming Output in Qwen: DashScope and OpenAI-Compatible Endpoints

阿里巴巴的 Qwen 模型提供具有不同流式输出的双 API 端点

作者 PulseAugur 编辑部 · [1 个来源] ·

阿里巴巴的 Qwen 模型可通过两个不同的 API 端点访问：原生的 DashScope API 和 OpenAI 兼容的端点。虽然两者服务于相同的底层模型，但它们的流式输出格式和数据结构有所不同。OpenAI 兼容的端点模仿 OpenAI 的聊天补全块格式，包括 `[DONE]` 标记，而原生的 DashScope API 需要特定的流式传输头信息，并以不同的方式嵌套有效负载信息，在每个事件上提供使用数据。 AI

影响 集成 Qwen 的开发者需要了解原生端点和 OpenAI 兼容端点之间不同的流式传输行为和数据格式。

排序理由 文章详细介绍了现有模型的 API 端点差异，而非新版本发布或重大的行业事件。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

阿里巴巴的 Qwen 模型提供具有不同流式输出的双 API 端点

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Multigrid ·

    Qwen 中的流式输出：DashScope 和 OpenAI 兼容的端点

    <p>Alibaba serves the same Qwen model behind two HTTP interfaces with different streaming semantics. The difference that will actually bite you is not the JSON shape: it is that the native endpoint sends the whole answer so far in every event unless you ask it not to.</p> <h2> Tw…

相关实体

相关话题