Linux x86_64

llama.cpp新构建版本在CPU上对Gemma 4-E2B显示出适度加速

进行了一项实验，在纯CPU设置下，使用Gemma 4-E2B模型比较了两个llama.cpp构建版本。较新的构建版本（版本0.6.0-dev）在文本生成速度上显示出适度的提升，平均为6.60 tokens/秒，而旧版本为6.05 tokens/秒，增长约9.1%。然而，新版本在提示处理速度上略有下降。实验强调，LLM的性能是多方面的，文本生成和提示处理等不同组件表现不同，并且即使配置一致，单次运行之间也存在差异。