LM Studio,一款流行的本地运行大型语言模型的应用程序,已宣布支持张量并行。此新功能利用 NVIDIA 的多 GPU 设置显著加速 LLM 性能。此次更新旨在使在消费级硬件上运行更强大的模型更加可行。 AI
影响 使用户能够在本地以改进的性能运行更大、更复杂的 LLM,从而降低高级 AI 实验的门槛。
排序理由 LM Studio 的更新是一项软件增强功能,而非核心 AI 模型发布或基础研究突破。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →