一位用户正在寻求大型语言模型（LLM）的推荐，这些模型可以在他们新购买的配备32GB显存的Tesla V100 GPU上运行。他们的系统还包括一台配备384GB DDR4内存和数TB存储空间的双路Xeon Dell PowerEdge 730服务器，这表明他们拥有一个强大的本地LLM实验环境。 AI
排序理由 这是一个用户在论坛上关于硬件的咨询，并非新闻事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
用户寻求适合强大本地设置的LLM推荐
报道来源 [1]
-
我的系统可以运行什么？
<!-- SC_OFF --><div class="md"><p>I just bought a Tesla v100 32gb for local llm experimentation. What can I run? This is going in my dual Xeon Dell PowerEdge 730 system which also has 384GB of DDR4 and several TB of storage.</p> </div><!-- SC_ON -->   submitted by   <a hr…