Unsloth 发布了两款新的 GGUF 模型 Kimi-K2.7-Code 和 North-Mini-Code-1.0,它们针对高效的本地部署进行了优化。这些模型旨在兼容各种库和推理提供商,包括 Transformers、llama-cpp-python、llama.cpp、LM Studio、Jan、vLLM 和 Ollama。Hugging Face 上提供了详细的说明和代码示例,用于将这些模型集成到不同的应用程序和工作流程中,从而方便在笔记本电脑、本地应用程序和云环境中使用。 AI
影响 这些 GGUF 模型为本地部署提供了优化的性能,可能降低了更广泛采用和实验的门槛。
排序理由 该集群详细介绍了新开源模型的发布和技术集成,符合研究类别。
在 Hugging Face Trending Models 阅读 →
- Hugging Face
- Jan
- llama.cpp
- llama-cpp-python
- LM Studio
- Ollama
- Transformers
- Unsloth
- unsloth/Kimi-K2.7-Code-GGUF
- unsloth/North-Mini-Code-1.0-GGUF
- vLLM
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →