Unsloth 发布了两款新型模型：unsloth/Laguna-S-2.1-GGUF 和 unsloth/Ornith-1.0-35B-GGUF，它们针对高效的本地部署进行了优化。这些模型兼容多种流行的推理库和应用程序，包括 Hugging Face Transformers、llama-cpp-python、llama.cpp、vLLM 和 LM Studio。提供了详细的说明和代码示例，用于将这些模型集成到不同的工作流程中，从 notebooks 到本地应用程序，方便开发者和研究人员使用。 AI
影响 这些模型为开发者提供了更高效的本地运行 LLM 的选项，可能增加本地 AI 解决方案的采用率。
排序理由 该集群描述了特定 LLM 模型的发布和集成说明，这些模型是面向开发者的工具。
在 Hugging Face Trending Models 阅读 →
- Google Colab
- Jan
- Kaggle
- llama.cpp
- llama-cpp-python
- LM Studio
- Ollama
- OpenAI
- unsloth/Ornith-1.0-35B-GGUF
- Unsloth Studio
- vLLM
- Hugging Face
- unsloth/Laguna-S-2.1-GGUF
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
