一位社区开发者使用 Claude Fable 5 的推理轨迹微调了 OpenBMB 的 MiniCPM5-1B 模型,创建了一个更小、可本地运行的模型。这个新模型 MiniCPM5-1B-Claude-Opus-Fable5-Thinking,设计用于在标准硬件上运行,无需云端调用,并提供 128K token 的上下文窗口。虽然它模仿了 Claude Fable 5 的格式和风格,但由于仅限于在生成输出上进行监督微调而非直接权重蒸馏,因此无法继承其底层的推理能力。 AI
影响 使得在消费级硬件上本地执行高级 LLM 功能成为可能,从而普及了对 AI 工具的访问。
排序理由 该集群描述了一个现有模型的微调版本,使其成为一个工具,而非前沿发布或研究论文。
- Claude Fable 5
- GnLOLot
- Jan
- Koboldcpp
- llama.cpp
- LM Studio
- MiniCPM5-1B
- MiniCPM5-1B-Claude-Opus-Fable5-Thinking
- Ollama
- OpenBMB
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →