最近的一项基准测试在 RTX 4090 GPU 上评估了四种开放决策模型——Laya、d1、Clef-Flash 和 Lev——以确定它们的本地性能。测试包括阅读九篇关于蜈蚣的维基百科文章并识别特定术语。Laya 成为最快的模型,每秒处理 3.9 毫秒的单词,并在 32 秒内处理了 7,980 个单词。虽然 Lev 在捕捉蜈蚣名称方面表现出最高的准确性,但它的速度明显较慢,每秒处理 51.0 毫秒的单词。 AI
影响 Laya 的速度优势表明,对于需要快速本地处理决策模型的应用程序,它可能是首选。
排序理由 开放决策模型的基准测试结果。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →