GenBench

iOS 应用 GenBench 可在设备上对 GGUF 模型进行基准测试

一款名为 GenBench 的新的免费 iOS 应用程序已发布，允许用户直接在 iPhone 和 iPad 上下载、运行和基准测试 GGUF 模型。该应用程序利用 llama.cpp 和 Metal 进行离线运行，并测量每秒令牌数、首个令牌延迟和峰值内存使用量等性能指标。用户还可以提交分数到全球排行榜，以比较不同设备和模型（包括文本和视觉模型）的性能。