PulseAugur
实时 05:25:37
English(EN) [RELEASE] Supra-Router-51M - a tiny prompt routing model/orchestrator

SupraLabs发布小型5100万参数提示路由模型

SupraLabs发布了Supra-Router-51M,一个仅有5100万参数的紧凑型提示路由模型。该模型旨在将用户请求定向到更小或更大的语言模型,从而实现低延迟操作。此次发布包括模型本身(可在Hugging Face Hub上获取)及其对应的训练数据集。 AI

影响 能够更有效地将请求路由到不同的模型,从而可能提高AI应用程序的性能并降低延迟。

排序理由 发布了一个小型、专业化的提示路由模型,而非前沿模型。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

SupraLabs发布小型5100万参数提示路由模型

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/LH-Tech_AI ·

    [发布] Supra-Router-51M - 一个小型的提示路由模型/编排器

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1uo826q/release_suprarouter51m_a_tiny_prompt_routing/"> <img alt="[RELEASE] Supra-Router-51M - a tiny prompt routing model/orchestrator" src="https://external-preview.redd.it/h2PaHC_KTRbn5W3MkZwz6oFNrcirmHzlY3…