一位开发者创建了一个小型网站,旨在帮助用户在购买硬件之前估算本地大型语言模型 (LLM) 的性能。该工具可在 llmspeed.dev 上找到,提供每秒 token 数的近似值,并承认实际性能可能因用户个人设置而异。该项目的代码也可在 GitHub 上找到,供对底层机制感兴趣的人士参考。 AI
影响 帮助用户评估运行本地 LLM 的硬件要求,可能影响购买决策。
排序理由 一个用户创建的用于估算本地硬件上 LLM 性能的工具。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →