google/gemma-4-26b-a4b-it

新工具通过实时API调用对MoE与密集型LLM进行成本基准测试

一个名为MoE成本分析器的新工具已被开发出来，以帮助团队对密集型和混合专家（MoE）大型语言模型之间的成本和性能差异进行基准测试。该分析器使用用户的自定义提示和特定的服务水平协议（SLA）进行实时API调用，以提供具体的建议，而不是依赖于模拟。使用Gemma模型在情感分析基准测试上的初步测试表明，MoE变体大约便宜20%，速度更快，并达到了定义的服务水平协议目标。