一项基准测试比较了一个“已发布”的270亿参数模型(压缩至8.7GB)与一个尺寸相似的“挑战者”模型(7.6GB加上一个1.4GB的草稿文件),结果显示性能存在显著差异。尽管权重和设置相同,但在同一任务上的运行产生了不同的结果,挑战者模型在特定检查中有时表现不如已发布模型。研究发现,单个模型内部结果的传播范围比两个模型之间的性能差距更广,根据预定义规则,这导致了平局。 AI
影响 强调了LLM性能的可变性以及由于采样和模型行为而在建立可靠基准测试方面面临的挑战。
排序理由 该条目描述了语言模型的基准测试,详细介绍了方法和结果,属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →