LFM2 8B A1B模型在MMLU-Pro基准测试中取得了50.5%的分数。然而,其在长上下文推理方面的表现却异常低下,仅获得1%的分数。这种差异表明评估方法可能存在问题,而不仅仅是反映了模型的实际能力。 AI
影响 这项研究突显了当前大型语言模型(LLM)评估方法可能存在的局限性,尤其是在处理长上下文任务时。
排序理由 该条目讨论了一个开源模型的基准测试结果,属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →