turion.ai

SGLang推理引擎通过令牌级KV缓存提升LLM性能

SGLang是一款新推出的开源AI推理引擎，旨在显著提升特定LLM工作负载的性能。它采用了一种新颖的RadixAttention机制，以令牌级别缓存KV缓存，从而提高了具有重复前缀（如代理循环和RAG）的应用程序的吞吐量。此外，SGLang将JSON模式编译成有限状态机，以实现更快的结构化输出生成。虽然vLLM在通用用例中仍具竞争力，但SGLang在前缀重用率高的场景中展示了高达5倍的显著加速。