一个90亿参数的模型,通过使用DeepSeek V4 Pro生成的数据对Qwen3.5-9B进行微调,在GSM8K数学基准测试中取得了令人印象深刻的成绩,得分94.50%,而DeepSeek V4 Pro的得分为92.60%。虽然数字准确,但声称‘击败’一个更大的模型需要背景信息,因为这个9B模型是专门针对数学和STEM数据进行训练的,这与测试内容相呼应。在相同条件下独立验证这些结果仍在进行中,并且该模型在编码或一般对话等其他领域的性能仍未得到证实。此外,社区修改的版本‘heretic’降低了拒绝率,但这可能会增加生成有害内容的风险。 AI
影响 强调了知识蒸馏和专业训练对于小型模型的有效性,可能影响未来资源受限环境下的模型开发。
排序理由 该条目讨论了特定模型在基准测试中的表现及其技术细节,属于研究类别。[lever_c_降级自研究:ic=1 ai=1.0]
- 9B model
- Apache Software License 2.0
- DeepSeek-V3
- DeepSeek V4 Pro
- DeepSeek-V4-Pro-Qwen3.5-9B
- GSM8K
- Heretic
- Hugging Face
- Jackrong
- Llama-3.1-405B
- MiMo v2.5-Pro
- MMLU-Pro
- Qwen3.5-9B
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →