vLLM Semantic Router 项目发布了 'd3',一个 27B 的多模态基础决策模型。该模型旨在根据文本、图像和视频回答问题,并返回每个答案的概率,而不生成文本。'd3' 相较于其前身 Decision 2.0 有显著改进,并展示了在单个请求中处理多张图像和视频的能力。它还提供快速的推理速度,在单个 AMD Instinct MI325X 上处理文本请求的中位数为 55 毫秒。 AI
影响 在多模态应用中实现更快、更细致的决策。
排序理由 知名 AI 实验室发布新模型。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
在 Hugging Face Trending Models 阅读 →
- AMD Instinct MI325X
- Decision 2.0
- Decision 3.0
- Google Colab
- Hugging Face Hub
- Kaggle
- transformers
- vLLM Semantic Router
- vllm-sr/d3
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →