一款名为 GenBench 的新的免费 iOS 应用程序已发布，允许用户直接在 iPhone 和 iPad 上下载、运行和基准测试 GGUF 模型。该应用程序利用 llama.cpp 和 Metal 进行离线运行，并测量每秒令牌数、首个令牌延迟和峰值内存使用量等性能指标。用户还可以提交分数到全球排行榜，以比较不同设备和模型（包括文本和视觉模型）的性能。 AI
影响 使用户能够轻松地在移动设备上直接测试和比较各种 AI 模型的性能，从而促进更广泛的实验和对设备上 AI 功能的理解。
排序理由 该集群描述了一款允许用户在个人设备上基准测试 AI 模型的新应用程序，这属于 AI 工具类别。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
