一位Reddit用户对“开放权重”大型语言模型日益增长的规模和复杂性表示沮丧,认为由于其庞大的参数数量和上下文窗口,许多模型对个人来说实际上是无法使用的。用户指出,虽然权重技术上可用,但在没有企业级硬件的情况下,在本地运行这些模型是不可能的,这违背了自我托管和社区共享的初衷。这种以GLM-5.2等模型为例的趋势,已将焦点从为个人硬件优化模型转移到基本上作为API或云访问的免费营销。 AI
影响 凸显了已发布模型规模与个人用户硬件能力之间日益扩大的差距。
排序理由 用户对大型开放权重模型的实际局限性的观点文章。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →