vLLM Semantic Router团队发布了d3-turbo 27B,这是一款新颖的AI模型,不生成文本响应。相反,它为预定义的选项输出概率,使其适用于不需要自然语言生成的代理系统中的任务。该模型旨在一次处理输入并回答多个问题,与为每次查询重新处理输入的模型相比,具有显著的速度优势,尤其是在处理图像或视频数据时。 AI
影响 该模型的方法可以通过减少对文本生成在决策任务中的依赖,来加速更高效AI代理的开发。
排序理由 知名AI实验室(vLLM Semantic Router团队)发布新模型。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
- AMD Instinct MI325X
- Apache Software License 2.0
- d3-flash
- d3-turbo 27B
- GitHub
- Hugging Face
- vLLM
- vLLM Semantic Router
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →