一位 Reddit 用户整理了一份可在配备 10-16GB 显存的消费级硬件上运行的大型语言模型排名列表。评估侧重于速度、连贯性、语言处理能力、“废话模式”(描述性短语的频率)、模型架构(MoE 与完整模型)、审查级别和指令遵循能力。该用户指出,要获得全面的知识,尤其是在小众媒体主题方面,需要更大的模型(超过 200B 参数),但这些模型通常大多数用户都无法获得。 AI
影响 为硬件有限的用户提供了一个实用的指南,以选择和运行能力强的 LLM。
排序理由 用户生成的现有模型排名和评估,并非新发布或重要的行业事件。
- alpaca
- Claude Opus
- CodeLlama
- Gemma
- GLM-4.7-Flash
- Llama 3
- Mistral AI
- Mixtral
- Orca
- Phi 3
- Qwen
- Starling
- Vicuña
- Zephyr
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →