vLLM-Omni 平台已发布 0.25.0rc1 版本，与 vLLM 0.25 发布线保持一致。此次更新显著提升了大型语言模型 (LLM) 和文本转语音 (TTS) 的性能。值得注意的是，它增加了对 Krea 2（一个文本到图像生成模型）的支持，并改进了可组合并行执行和模型集成。 AI
影响 提升了 LLM 和 TTS 应用的性能，并增加了文本到图像功能。
排序理由 这是一个特定平台的软件发布，而非来自主要实验室的前沿模型发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>I am amazed about the speed gains i get when switching to vLLM on LLMs and TTS, now I see they as well offer Krea 2 in their vllm-omni platform. Has anyone tried it? Krea turbo is already quite fast... but im always amazed at vllm speeds.</p> <p>…