一位独立研究者开发了 Metis-1.6,一套新的语言模型 Praxis 和 Logos,它们优先考虑高效的训练方法和新颖的架构,而不是单纯的参数数量。尽管在通用基准测试中未能与前沿模型竞争,Logos 在数学方面表现强劲,在 AIME 2025 和 HMMT February 2026 基准测试中排名第 30 个模型中的第二名。技术报告还详细介绍了遇到的重大训练错误和架构挑战,并为 Metis-1.7 等未来迭代提供了关于出了什么问题以及潜在解决方案的见解。 AI
影响 展示了通过新颖的架构在特定基准测试上实现高效模型训练和具有竞争力的性能的途径。
排序理由 技术报告,详细介绍了新的模型架构和训练方法。
- AdamW
- AIME 2025
- Apache Software License 2.0
- HMMT February 2026
- Logos
- Mamba-2
- Metis-1.6
- MoRE
- Praxis
- Qwen3-4B
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →