一位Mastodon用户正在询问在个人硬件上本地运行大型语言模型(LLM)对环境的影响。他们承认模型训练具有显著的环境成本,但正在寻求了解除了他们对功耗的直接控制之外,本地LLM使用是否存在其他环境方面的考虑因素。 AI
排序理由 用户在社交媒体平台上提出的关于一般性话题的问题,而非特定事件或发布。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
一位Mastodon用户正在询问在个人硬件上本地运行大型语言模型(LLM)对环境的影响。他们承认模型训练具有显著的环境成本,但正在寻求了解除了他们对功耗的直接控制之外,本地LLM使用是否存在其他环境方面的考虑因素。 AI
排序理由 用户在社交媒体平台上提出的关于一般性话题的问题,而非特定事件或发布。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
Okay, from a environmental standpoint, how problematic are local llms as in running it on my existing machine where I control power consumption. I have no control over the model training, so I know it's not all positive. But am I missing other important points? I want to know! # …