ConwayResearch 发布了 Underdog-Saluki-27B-1.0 模型,这是一个拥有 270 亿参数的语言模型。此次发布提供了详细的使用说明和兼容性信息,以便将该模型与各种推理引擎和应用程序配合使用。这些工具包括 llama.cpp、vLLM、Ollama、LM Studio 和 Jan 等流行工具,以及笔记本电脑和本地应用程序的集成指南。该模型也可通过 Docker 访问,并在 Raspberry Pi 等设备上运行。 AI
影响 促进了在各种本地推理设置中对新的 270 亿参数模型的更广泛采用和实验。
排序理由 此次发布的是一个带有集成说明的模型,而非主要实验室的前沿发布。
在 Hugging Face Trending Models 阅读 →
- ConwayResearch/Underdog-Saluki-27B-1.0
- Hugging Face
- Jan
- llama.cpp
- LM Studio
- Ollama
- OpenAI
- Raspberry Pi
- Unsloth Desktop
- vLLM
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →