PulseAugur
中
实时 14:42:37
实体 Gateway-v0.3.1

Gateway-v0.3.1

PulseAugur coverage of Gateway-v0.3.1 — every cluster mentioning Gateway-v0.3.1 across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_48049 ·

    SGLang 通过感知缓存的路由提升模型网关性能

    SGLang 发布了其模型网关 0.3.1 版本，显著提升了性能并减少了内存使用。此次更新引入了感知缓存的路由，速度提升 10-12 倍，内存使用减少 99%，在相同占用空间内可实现 100 倍的缓存条目。此版本还集成了企业级安全功能，如 JWT/OIDC 认证，并增加了对分类工作负载的支持。